gam-changer

一个交互式可视化工具，帮助领域专家和数据科学家轻松且负责任地编辑广义加性模型（GAMs）。

<table> <tr> <td colspan="2"><img src='https://i.imgur.com/eKzKJfl.png'></td> </tr> <tr></tr> <tr> <td><a href="https://youtu.be/D6whtfInqTc">📺 视频</a></td> <td><a href="https://dl.acm.org/doi/10.1145/3534678.3539074">📖 "可解释性，然后呢？编辑机器学习模型以反映人类知识和价值观"</a></td> </tr> </table>

GAM Changer 功能

开始使用

在线演示请访问：http://interpret.ml/gam-changer/

如何编辑我自己的GAMs？

您可以使用此演示来编辑您自己的GAMs：选择"my model"选项卡并上传model.json（模型权重）和sample.json（用于评估模型的样本数据）。

如果您使用EBM，您可以使用GAM Changer Python包轻松生成这两个文件。

# 首先安装GAM Changer Python包
pip install gamchanger

import gamchanger as gc
from json import dump

# 提取模型权重
model_data = gc.get_model_data(ebm)

# 生成样本数据
sample_data = gc.get_sample_data(ebm, x_test, y_test)

# 保存为`model.json`和`sample.json`
dump(model_data, open('./model.json', 'w'))
dump(sample_data, open('./sample.json', 'w'))

计算笔记本小部件

您可以直接在计算笔记本（如Jupyter Notebook、VSCode Notebook、Google Colab）中使用GAM Changer。

查看以下三个在线笔记本演示。

Jupyter Lite	Binder	Google Colab

在你喜欢的笔记本中使用以下代码片段来加载GAM Changer：

# 安装GAM Changer Python包
!pip install gamchanger

import gamchanger as gc

# 加载GAM Changer，并传入模型和样本数据
gc.visualize(ebm, x_feed, y_feed)

加载编辑后的模型

完成模型编辑后，你可以通过点击保存按钮将新模型及所有编辑历史保存为*.gamchanger文件。你可以在Python中加载新模型：

from json import load
import gamchanger as gc

# 加载`*.gamchanger`文件
gc_dict = load(open('./edit-8-27-2021.gamchanger', 'r'))

# 这将返回你原始EBM的深度复制，其中应用了编辑
new_ebm = gc.get_edited_model(ebm, gc_dict)

开发

克隆或下载此仓库：

git clone git@github.com:interpretml/gam-changer.git

# 如果你不想下载提交历史，可以使用degit
degit interpretml/gam-changer.git

安装依赖：

npm install

然后运行GAM Changer：

npm run dev

导航至localhost:5000。你应该能在浏览器中看到GAM Changer运行 :)

致谢

GAM Changer由<a href="https://zijie.wang">Jay Wang</a>、 <a href="http://students.washington.edu/kalea/">Alex Kale</a>、 <a href="https://www.linkedin.com/in/harshanori/">Harsha Nori</a>、 <a href="https://nyulangone.org/doctors/1548522964/peter-a-stella">Peter Stella</a>、 <a href="https://nyulangone.org/doctors/1144385360/mark-e-nunnally">Mark Nunnally</a>、 <a href="https://www.cc.gatech.edu/~dchau/">Polo Chau</a>、 <a href="https://www.microsoft.com/en-us/research/people/mivorvor/">Mickey Vorvoreanu</a>、 <a href="http://www.jennwv.com">Jenn Wortman Vaughan</a> 和<a href="https://www.microsoft.com/en-us/research/people/rcaruana/">Rich Caruana</a>创建，这是微软研究院、纽约大学朗格尼健康中心、佐治亚理工学院和华盛顿大学之间研究合作的成果。 Jay Wang和Alex Kale是微软研究院的暑期实习生。

我们感谢Steven Drucker、Adam Fourney、Saleema Amershi、Dean Carignan、Rob DeLine、Haekyu Park和InterpretML团队的支持和建设性反馈。

引用

@inproceedings{wangInterpretabilityThenWhat2022,
  title = {Interpretability, {{Then What}}? {{Editing Machine Learning Models}} to {{Reflect Human Knowledge}} and {{Values}}},
  shorttitle = {Interpretability, {{Then What}}?},
  booktitle = {Proceedings of the 28th {{ACM SIGKDD International Conference}} on {{Knowledge Discovery}} \& {{Data Mining}}},
  author = {Wang, Zijie J. and Kale, Alex and Nori, Harsha and Stella, Peter and Nunnally, Mark E. and Chau, Duen Horng and Vorvoreanu, Mihaela and Vaughan, Jennifer Wortman and Caruana, Rich},
  year = {2022},
  url = {https://interpret.ml/gam-changer},
}