访问官网
Github
Huggingface
论文
一个交互式可视化工具，帮助领域专家和数据科学家轻松且负责任地编辑广义加性模型（GAMs）。
GAM Changer 功能
开始使用
在线演示请访问：http://interpret.ml/gam-changer/
如何编辑我自己的GAMs？
您可以使用此演示来编辑您自己的GAMs：选择"my model"选项卡并上传model.json（模型权重）和sample.json（用于评估模型的样本数据）。
如果您使用EBM，您可以使用GAM Changer Python包轻松生成这两个文件。
# 首先安装GAM Changer Python包
pip install gamchanger
import gamchanger as gc
from json import dump
# 提取模型权重
model_data = gc.get_model_data(ebm)
# 生成样本数据
sample_data = gc.get_sample_data(ebm, x_test, y_test)
# 保存为`model.json`和`sample.json`
dump(model_data, open('./model.json', 'w'))
dump(sample_data, open('./sample.json', 'w'))
计算笔记本小部件
您可以直接在计算笔记本（如Jupyter Notebook、VSCode Notebook、Google Colab）中使用GAM Changer。
查看以下三个在线笔记本演示。
| Jupyter Lite | Binder | Google Colab |
|---|---|---|
|  |  |
在你喜欢的笔记本中使用以下代码片段来加载GAM Changer：
# 安装GAM Changer Python包
!pip install gamchanger
import gamchanger as gc
# 加载GAM Changer，并传入模型和样本数据
gc.visualize(ebm, x_feed, y_feed)
加载编辑后的模型
完成模型编辑后，你可以通过点击保存按钮将新模型及所有编辑历史保存为*.gamchanger文件。你可以在Python中加载新模型：
from json import load
import gamchanger as gc
# 加载`*.gamchanger`文件
gc_dict = load(open('./edit-8-27-2021.gamchanger', 'r'))
# 这将返回你原始EBM的深度复制，其中应用了编辑
new_ebm = gc.get_edited_model(ebm, gc_dict)
开发
克隆或下载此仓库：
git clone git@github.com:interpretml/gam-changer.git
# 如果你不想下载提交历史，可以使用degit
degit interpretml/gam-changer.git
安装依赖：
npm install
然后运行GAM Changer：
npm run dev
导航至localhost:5000。你应该能在浏览器中看到GAM Changer运行 :)
致谢
GAM Changer由Jay Wang、 Alex Kale、 Harsha Nori、 Peter Stella、 Mark Nunnally、 Polo Chau、 Mickey Vorvoreanu、 Jenn Wortman Vaughan 和Rich Caruana创建， 这是微软研究院、纽约大学朗格尼健康中心、佐治亚理工学院和华盛顿大学之间研究合作的成果。 Jay Wang和Alex Kale是微软研究院的暑期实习生。
我们感谢Steven Drucker、Adam Fourney、Saleema Amershi、Dean Carignan、Rob DeLine、Haekyu Park和InterpretML团队的支持和建设性反馈。
引用
@inproceedings{wangInterpretabilityThenWhat2022,
title = {Interpretability, {{Then What}}? {{Editing Machine Learning Models}} to {{Reflect Human Knowledge}} and {{Values}}},
shorttitle = {Interpretability, {{Then What}}?},
booktitle = {Proceedings of the 28th {{ACM SIGKDD International Conference}} on {{Knowledge Discovery}} \& {{Data Mining}}},
author = {Wang, Zijie J. and Kale, Alex and Nori, Harsha and Stella, Peter and Nunnally, Mark E. and Chau, Duen Horng and Vorvoreanu, Mihaela and Vaughan, Jennifer Wortman and Caruana, Rich},
year = {2022},
url = {https://interpret.ml/gam-changer},
}
许可证
该软件遵循MIT许可证。
