lime

该项目旨在解释机器学习分类器（或模型）的工作原理。目前，我们支持对文本分类器、基于表格数据（数值或类别型的 NumPy 数组）的分类器以及图像分类器的单个预测进行解释，使用的工具包名为 lime（局部可解释且模型无关的解释方法的缩写）。Lime 的基础是发表在 这篇论文 中的工作（引用的 BibTeX 信息见 此处）。以下是宣传视频的链接：

我们的计划是增加更多帮助用户理解和有意义地与机器学习交互的工具包。

Lime 能够解释任何具有两个或以上类别的黑盒分类器。我们唯一的要求是该分类器需要实现一个函数，能够接收原始文本或 NumPy 数组作为输入，并输出每个类别的概率。对于 scikit-learn 分类器的支持已内置。

安装

lime 包已在 PyPI 上发布。只需运行以下命令即可安装：

pip install lime

或者克隆仓库并运行：

pip install .

我们在 0.2.0 版本中放弃了对 Python 2 的支持，之前的最后一个版本是 0.1.1.37。

截图

以下是 lime 解释的一些截图。这些解释以 HTML 格式生成，可以轻松地在 IPython 笔记本中创建和嵌入。我们还支持使用 Matplotlib 进行可视化，尽管效果不如这些截图美观。

二分类情况，文本

负向（蓝色）词语表示无神论，而正向（橙色）词语表示基督教。权重的解释方式是将其应用于预测概率上。例如，如果我们从文档中移除“Host”和“NNTP”这两个词，我们预计分类器会将无神论的概率从 0.58 降低到 0.58 - 0.14 - 0.11 = 0.31。

多分类情况

表格数据

图像（解释“猫”的预测，优缺点）

教程和 API

关于文本分类器的示例用法，请参阅以下两个教程（由 IPython 笔记本生成）：

• 基本用法，二分类。我们解释随机森林分类器。
• 多分类情况

对于使用数值或类别型数据的分类器，请参阅以下教程（这是较新的内容，如果您发现任何问题，请告知我们）：

• 表格数据
• 使用 H2O 模型的表格数据
• 拉丁超立方抽样

对于图像分类器：

• 图像——基础
• 人脸图像
• 使用 Keras 的图像
• MNIST 数据集与随机森林
• 使用 PyTorch 的图像

对于回归任务：

• 简单回归

子模态选择：

• 子模态选择

这些教程的原始（非 HTML）笔记本文件可在 这里 获取。

API 参考文档可在 这里 查看。

什么是解释？

直观地说，解释是对模型行为的一种局部线性近似。虽然模型在全局范围内可能非常复杂，但在某个特定实例附近对其进行近似则相对容易。在将模型视为黑盒的情况下，我们会扰动要解释的实例，并在其周围学习一个稀疏的线性模型作为解释。下图展示了这一过程的直观理解。模型的决策函数由蓝粉色背景表示，显然是非线性的。红色十字代表正在被解释的实例（我们称之为 X）。我们在 X 周围采样实例，并根据它们与 X 的距离来加权（这里的权重由大小表示）。然后我们学习一个线性模型（虚线），它在 X 附近能很好地近似原模型，但并不一定在整个范围内都适用。如需更多信息，请阅读我们的论文 https://arxiv.org/abs/1602.04938，或查看 这篇博客文章。

贡献

请阅读 此文档。

LIME 快速上手指南

LIME (Local Interpretable Model-agnostic Explanations) 是一个用于解释机器学习模型预测结果的开源工具。它适用于文本、表格数据和图像分类器，能够以“黑盒”方式解释任何拥有两个或以上类别的分类器。

环境准备

• 操作系统：Linux, macOS, Windows
• Python 版本：Python 3.6 及以上（注：LIME 自 0.2.0 版本起已不再支持 Python 2）
• 前置依赖：
  • scikit-learn (内置支持)
  • numpy, scipy
  • matplotlib (用于可视化)
  • 针对特定任务可能需要：tensorflow, keras, pytorch, h2o 等

安装步骤

推荐使用 pip 进行安装。国内开发者可使用清华或阿里镜像源加速下载。

方式一：通过 PyPI 安装（推荐）

pip install lime -i https://pypi.tuna.tsinghua.edu.cn/simple

方式二：从源码安装

git clone https://github.com/marcotcr/lime.git
cd lime
pip install . -i https://pypi.tuna.tsinghua.edu.cn/simple

基本使用

以下是一个最简单的示例，展示如何使用 LIME 解释一个基于 scikit-learn 的随机森林文本分类器的预测结果。

1. 导入库并准备数据

import sklearn
import sklearn.datasets
import sklearn.ensemble
import numpy as np
import lime
import lime.lime_text

2. 训练一个简单的分类器

这里使用 20 Newsgroups 数据集作为示例。

# 加载数据
categories = ['alt.atheism', 'soc.religion.christian']
newsgroups_train = sklearn.datasets.fetch_20newsgroups(subset='train', categories=categories)
newsgroups_test = sklearn.datasets.fetch_20newsgroups(subset='test', categories=categories)

class_names = ['atheism', 'christian']

# 向量化文本数据
vectorizer = sklearn.feature_extraction.text.TfidfVectorizer(lowercase=False)
train_vectors = vectorizer.fit_transform(newsgroups_train.data)
test_vectors = vectorizer.transform(newsgroups_test.data)

# 训练随机森林分类器
rf = sklearn.ensemble.RandomForestClassifier(n_estimators=500)
rf.fit(train_vectors, newsgroups_train.target)

3. 创建解释器并解释单个样本

# 选择要解释的测试样本索引
idx = 0
text_to_explain = newsgroups_test.data[idx]

# 定义预测函数，LIME 需要接收原始文本并返回概率
def predict_fn(texts):
    vectors = vectorizer.transform(texts)
    return rf.predict_proba(vectors)

# 初始化文本解释器
explainer = lime.lime_text.LimeTextExplainer(class_names=class_names)

# 生成解释
# num_features: 希望展示多少个关键词作为解释依据
exp = explainer.explain_instance(text_to_explain, predict_fn, num_features=6)

# 打印解释结果
print('Document id: %d' % idx)
print('Probability(christian) =', rf.predict_proba(test_vectors[idx])[0][1])
print('True class: %s' % class_names[newsgroups_test.target[idx]])
print('\nTop contributing features:')
for feature, weight in exp.as_list():
    print(f'{feature}: {weight}')

4. 可视化结果

LIME 支持将解释结果导出为 HTML 或在 Jupyter Notebook 中直接显示。

# 在 Jupyter Notebook 中直接显示可视化图表
exp.show_in_notebook(text=True)

# 或者保存为 HTML 文件
exp.save_to_file('explanation.html')

执行上述代码后，你将看到高亮显示的关键词及其对预测结果的正负贡献度（例如：橙色代表倾向于 "christian"，蓝色代表倾向于 "atheism"）。