---

Alibi 是一个源代码可用的 Python 库，旨在用于机器学习模型检查和解释。 该库的重点是为分类和回归模型提供高质量的黑盒、白盒、局部和全局解释方法的实现。

• 文档

如果您对外部检测、概念漂移或对抗实例检测感兴趣，请查看我们的姊妹项目 alibi-detect。

图像的 Anchor 解释	文本的集成梯度
反事实示例	累积局部效应

目录

• 安装与使用
• 支持的方法
  • 模型解释
  • 模型置信度
  • 原型
  • 参考文献与示例
• 引用

安装与使用

Alibi 可以从以下位置安装：

• PyPI 或 GitHub 源码（使用 pip）
• Anaconda（使用 conda/mamba）

使用 pip

• Alibi 可以从 PyPI 安装：

  pip install alibi
  

• 或者，可以安装开发版本：

  pip install git+https://github.com/SeldonIO/alibi.git 
  

• 为了利用解释的分布式计算，请使用 ray 安装 alibi：

  pip install alibi[ray]
  

• 如需支持 SHAP，请按如下方式安装 alibi：

  pip install alibi[shap]
  

使用 conda

要从 conda-forge 安装，建议使用 mamba， 它可以安装在 base conda 环境中，命令如下：

conda install mamba -n base -c conda-forge

• 对于标准 Alibi 安装：

  mamba install -c conda-forge alibi
  

• 对于分布式计算支持：

  mamba install -c conda-forge alibi ray
  

• 对于 SHAP 支持：

  mamba install -c conda-forge alibi shap
  

使用方式

Alibi 解释 API 借鉴了 scikit-learn（一个流行的机器学习库），包含独立的初始化、 拟合和解释步骤。我们将使用 AnchorTabular 解释器来说明该 API：

from alibi.explainers import AnchorTabular

# initialize and fit explainer by passing a prediction function and any other required arguments
explainer = AnchorTabular(predict_fn, feature_names=feature_names, category_map=category_map)
explainer.fit(X_train)

# explain an instance
explanation = explainer.explain(x)

返回的解释是一个 Explanation（解释对象），具有 meta 和 data 属性。meta 是一个包含解释器元数据和任何超参数的字典，data 是一个包含所有与计算出的解释相关内容的字典。例如，对于 Anchor 算法，可以通过 explanation.data['anchor']（或 explanation.anchor）访问解释。可用字段的详细信息因方法而异，因此我们鼓励读者熟悉 支持的方法类型。

支持的方法

下表总结了每种方法的潜在用例。

模型解释

方法	模型类型	解释类型	分类	回归	表格数据	文本	图像	类别特征	是否需要训练集	分布式
ALE	BB	全局	✔	✔	✔
部分依赖	BB WB	全局	✔	✔	✔			✔
部分依赖方差	BB WB	全局	✔	✔	✔			✔
排列重要性	BB	全局	✔	✔	✔			✔
锚点	BB	局部	✔		✔	✔	✔	✔	针对表格数据
CEM	BB* TF/Keras	局部	✔		✔		✔		可选
反事实	BB* TF/Keras	局部	✔		✔		✔		否
原型反事实	BB* TF/Keras	局部	✔		✔		✔	✔	可选
基于强化学习的反事实	BB	局部	✔		✔		✔	✔	✔
集成梯度	TF/Keras	局部	✔	✔	✔	✔	✔	✔	可选
Kernel SHAP	BB	局部 全局	✔	✔	✔			✔	✔	✔
Tree SHAP	WB	局部 全局	✔	✔	✔			✔	可选
相似性解释	WB	局部	✔	✔	✔	✔	✔	✔	✔

模型置信度

这些算法提供实例特定 (instance-specific) 的评分，用于衡量模型进行特定预测时的置信度。

方法	模型类型	分类	回归	表格数据	文本	图像	类别特征	是否需要训练集
信任分数	BB	✔		✔	✔(1)	✔(2)		是
线性度量	BB	✔	✔	✔		✔		可选

关键术语：

• BB - 黑盒 (Black-box)（仅需预测函数）
• BB* - 黑盒但假设模型是可微分的 (differentiable)
• WB - 需要白盒 (White-box) 模型访问权限。支持的模型可能存在限制
• TF/Keras - 通过 Keras API 的 TensorFlow 模型
• 局部 (Local) - 实例特定的解释，为何做出此预测？
• 全局 (Global) - 相对于一组实例解释模型
• (1) - 取决于模型
• (2) - 可能需要降维 (dimensionality reduction)

原型

这些算法提供数据集的提炼 (distilled) 视图，并帮助构建一个 1-KNN 可解释 (interpretable) 分类器。

方法	分类	回归	表格数据	文本	图像	类别特征	训练集标签
原型选择	✔		✔	✔	✔	✔	可选

引用与示例

• 累积局部效应 (ALE, Apley and Zhu, 2016)

  • 文档
  • 示例： 加州住房数据集, 鸢尾花数据集

• 部分依赖 (J.H. Friedman, 2001)

  • 文档
  • 示例： 自行车租赁

• 部分依赖方差 (Greenwell et al., 2018)

  • 文档
  • 示例： 弗里德曼回归问题

• 排列重要性 (Permutation Importance) (Breiman, 2001; Fisher et al., 2018)

  • 文档
  • 示例： 谁将离开？

• 锚点解释 (Anchor explanations) (Ribeiro et al., 2018)

  • 文档
  • 示例： 收入预测, Iris 数据集, 电影情感分类, ImageNet, Fashion MNIST

• 对比解释方法 (CEM, Dhurandhar et al., 2018)

  • 文档
  • 示例：MNIST, Iris 数据集

• 反事实解释 (Counterfactual Explanations) (扩展自 Wachter et al., 2017)

  • 文档
  • 示例： MNIST

• 原型引导的反事实解释 (Counterfactual Explanations Guided by Prototypes) (Van Looveren and Klaise, 2019)

  • 文档
  • 示例： MNIST, 加州住房数据集, 成人收入 (one-hot), 成人收入 (ordinal)

• 基于强化学习 (RL) 的模型无关反事实解释 (Model-agnostic Counterfactual Explanations via RL) (Samoilescu et al., 2021)

  • 文档
  • 示例： MNIST, 成人收入

• 集成梯度 (Integrated Gradients) (Sundararajan et al., 2017)

  • 文档,
  • 示例： MNIST 示例, Imagenet 示例, IMDB 示例.

• 核 SHAP 可加性解释 (Kernel Shapley Additive Explanations) (Lundberg et al., 2017)

  • 文档
  • 示例： 连续数据的 SVM, 连续数据的多项逻辑回归, 处理分类变量

• 树 SHAP 可加性解释 (Tree Shapley Additive Explanations) (Lundberg et al., 2020)

  • 文档
  • 示例： 干预式 (成人收入，xgboost), 路径依赖式 (成人收入，xgboost)

• 信任分数 (Trust Scores) (Jiang et al., 2018)

  • 文档
  • 示例： MNIST, Iris 数据集

• 线性度量 (Linearity Measure)

  • 文档
  • 示例： Iris 数据集, Fashion MNIST

• ProtoSelect

  • 文档
  • 示例： 成人人口普查 & CIFAR10

• 相似性解释 (Similarity explanations)

  • 文档
  • 示例： 20 个新闻组数据集, ImageNet 数据集, MNIST 数据集

引用

如果您在研究中使用 Alibi，请考虑引用它。

BibTeX 条目：

@article{JMLR:v22:21-0017,
  author  = {Janis Klaise and Arnaud Van Looveren and Giovanni Vacanti and Alexandru Coca},
  title   = {Alibi Explain: Algorithms for Explaining Machine Learning Models},
  journal = {Journal of Machine Learning Research},
  year    = {2021},
  volume  = {22},
  number  = {181},
  pages   = {1-7},
  url     = {http://jmlr.org/papers/v22/21-0017.html}
}

Alibi 快速上手指南

Alibi 是一个面向机器学习模型的检查与解释（XAI）开源 Python 库。它提供了高质量的黑盒、白盒、局部和全局解释方法，适用于分类和回归模型。

1. 环境准备

• 操作系统：跨平台支持（Linux, macOS, Windows）。
• Python 版本：请确保已安装兼容的 Python 版本（参考 PyPI 徽章支持的版本）。
• 依赖管理：推荐使用 pip 或 conda/mamba。

2. 安装步骤

使用 pip 安装

安装标准版本：

pip install alibi

安装开发版本：

pip install git+https://github.com/SeldonIO/alibi.git 

可选扩展依赖：

• 启用分布式计算支持（需安装 Ray）：

  pip install alibi[ray]
  

• 启用 SHAP 支持：

  pip install alibi[shap]
  

使用 conda 安装

建议先安装 mamba 以加速依赖解析：

conda install mamba -n base -c conda-forge

安装 Alibi：

mamba install -c conda-forge alibi

如需分布式计算或 SHAP 支持，可添加相应包：

mamba install -c conda-forge alibi ray
mamba install -c conda-forge alibi shap

注意：如果您需要异常检测、概念漂移或对抗实例检测功能，请参考姊妹项目 alibi-detect。

3. 基本使用

Alibi 的解释器 API 设计灵感来源于 scikit-learn，主要包含三个步骤：初始化 (Initialize)、拟合 (Fit) 和 解释 (Explain)。

以下以 AnchorTabular 解释器为例：

from alibi.explainers import AnchorTabular

# 1. 初始化并拟合解释器
# 传入预测函数及其他必要参数（如特征名称、类别映射等）
explainer = AnchorTabular(predict_fn, feature_names=feature_names, category_map=category_map)
explainer.fit(X_train)

# 2. 解释单个样本
explanation = explainer.explain(x)

结果说明

返回的 explanation 是一个 Explanation 对象，包含以下主要属性：

• meta：字典，包含解释器的元数据及超参数。
• data：字典，包含计算出的解释相关数据。

不同方法的字段略有差异。例如，对于 Anchor 算法，可通过以下方式访问解释内容：

anchor_value = explanation.data['anchor']  # 或 explanation.anchor

更多详细的方法类型和用法，请参阅官方文档。