模型无关的探索与解释语言

概述

未经验证的黑箱模型是失败的根源。不透明性导致不信任，不信任导致忽视，忽视则最终导致拒绝。

DALEX 包可以对任何模型进行“透视”，帮助探索和解释其行为，从而理解复杂模型的工作原理。主要函数 explain() 会在预测模型周围创建一个包装器。被包装后的模型随后可以通过一系列局部和全局解释工具来进行探索和比较。这些方法源自可解释机器学习/可解释人工智能领域的最新进展。

DALEX 解释背后的哲学理念在电子书 Explanatory Model Analysis 中有所阐述。DALEX 包是 DrWhy.AI 生态系统的一部分。

如果您在 R 中使用 scikit-learn、keras、H2O、tidymodels、xgboost、mlr 或 mlr3，那么您可能会对 DALEXtra 包感兴趣，它是 DALEX 的扩展，为这些库中创建的模型提供了易于使用的 explain_*() 函数。

关于 dalex Python 包的更多概述请参见此处。

安装

DALEX R 包可以从 CRAN 安装。

install.packages("DALEX")

dalex Python 包可在 PyPI 和 conda-forge 上获取。

pip install dalex -U

conda install -c conda-forge dalex

了解更多

机器学习模型应用广泛，在分类或回归任务中都有多种用途。随着计算能力的提升、新数据源的出现以及新方法的涌现，ML 模型变得越来越复杂。像梯度提升、随机森林和神经网络这样的技术所构建的模型往往被视为真正的黑箱。很难追踪输入变量与模型输出之间的关系。尽管它们性能优异，但缺乏可解释性却是其最薄弱的环节之一。

在许多应用场景中，我们需要知道、理解或证明输入变量是如何被模型利用的，以及它们对最终预测结果有何影响。DALEX 是一套能够帮助我们理解复杂模型工作方式的工具。

资源

• DALEX 的温和介绍，附 R 和 Python 示例

R 包

• useR! 2021 上的负责任机器学习简介
• DALEX + mlr3 @ BioColl 2021 & @ Open-Forest-Training 2021
• eRum 2020 可解释模型分析研讨会资料，备忘录
• 如何使用 DALEX：keras、parsnip、caret、mlr、H2O、xgboost
• 比较不同语言中创建的 GBM 模型：R 中的 gbm 和 CatBoost / H2O 中的 gbm / Python 中的 gbm
• DALEX 用于欺诈检测
• DALEX 用于教学
• 机器学习竞争框架丛林中的 XAI

Python 包

• dalex 包简介：泰坦尼克号：教程和示例
• 关键特性详解：FIFA20：用 dalex 解释默认模型与调优后的模型
• 如何使用 dalex：xgboost、tensorflow
• 更多解释：残差、SHAP、LIME
• dalex 中的公平性模块 简介
• Arena：交互式模型探索仪表板 简介
• 代码以 jupyter notebook 形式提供
• 更改记录：NEWS

有关 DALEX 的演讲

• 与你的模型对话！在 USeR 2020 大会上
• 2018年2月在 NTU 复杂性研究所的 DALEX 演讲
• 2018年4月在 WTU 统计与经济研究协会的 DALEX 演讲
• 2018年5月在 STWUR 的 DALEX 演讲（波兰语）
• 2018年在 BayArea 的 DALEX 演讲
• 2018年在 PyData 华沙大会上的 DALEX 演讲

引用

如果您在 R 中使用 DALEX 或在 Python 中使用 dalex，请引用我们的 JMLR 论文：

@article{JMLR:v19:18-416,
  author  = {Przemyslaw Biecek},
  title   = {DALEX：R 中复杂预测模型的解释工具},
  journal = {机器学习研究期刊},
  year    = {2018},
  volume  = {19},
  number  = {84},
  pages   = {1-5},
  url     = {http://jmlr.org/papers/v19/18-416.html}
}

@article{JMLR:v22:20-1473,
  author  = {Hubert Baniecki、Wojciech Kretowicz、Piotr Piatyszek、Jakub Wisniewski 和 Przemyslaw Biecek},
  title   = {dalex：Python 中具有交互式可解释性和公平性的负责任机器学习},
  journal = {机器学习研究期刊},
  year    = {2021},
  volume  = {22},
  number  = {214},
  pages   = {1-7},
  url     = {http://jmlr.org/papers/v22/20-1473.html}
}

理由

76年前，艾萨克·阿西莫夫提出了机器人三定律：1) 机器人不得伤害人类；2) 机器人必须服从人类的命令；3) 机器人必须保护自身的存在。这些定律对人工智能伦理的讨论产生了深远影响。然而，如今的机器人，如扫地机器人、宠物机器人或自动驾驶汽车，远未达到能够遵循阿西莫夫伦理的高度。

今天，我们被复杂的预测算法所包围，这些算法广泛应用于决策制定中。机器学习模型被用于医疗、政治、教育、司法等多个领域。与实体机器人相比，黑箱预测模型对我们生活的影响要大得多。然而，尽管有许多潜在危害的例子，这类模型的应用仍然缺乏监管。凯茜·奥尼尔的《数学毁灭武器》一书为我们提供了关于这些问题的绝佳概述。

显然，我们需要对可能影响我们的算法进行有效控制。这种控制是我们公民权利的一部分。在此，我们提出任何预测模型都应满足的三项要求：

• 预测的合理性解释：对于模型的每一次预测，都应能够理解哪些变量对其产生影响以及影响的程度。即变量对最终预测的归因分析。
• 预测的情景假设：对于模型的每一次预测，都应能够设想如果输入变量发生变化，预测结果会如何改变。通过假设“如果……会怎样”的场景来探索可能性。
• 预测的验证依据：对于模型的每一次预测，都应能够核实支持该特定预测的证据是否充分。

实现这些要求有两种方式。一种是仅使用从设计上就满足这些条件的模型，例如线性回归或决策树等白盒模型。但在许多情况下，透明性往往以牺牲模型性能为代价。 另一种方式则是使用近似解释器——这类技术虽然只能提供近似的答案，但适用于任何黑箱模型。我们在此介绍的就是此类技术。

致谢

本软件包的研发工作得到了以下资助：NCN Opus 奖助金 2016/21/B/ST6/02176 和 NCN Opus 奖助金 2017/27/B/ST6/01307。

DALEX 快速上手指南

DALEX (moDel Agnostic Language for Exploration and eXplanation) 是一个用于探索和解释复杂机器学习模型的工具包。它支持 R 和 Python 语言，适用于任何“黑盒”模型（如 XGBoost, Random Forest, Neural Networks 等），帮助用户理解变量如何影响预测结果，实现可解释人工智能 (XAI)。

环境准备

• 操作系统: Windows, macOS, Linux
• R 用户:
  • R 版本 >= 3.5.0
  • 推荐安装 RStudio
• Python 用户:
  • Python 版本 >= 3.6
  • 核心依赖：pandas, numpy, scikit-learn, matplotlib, plotly
• 网络建议: 国内用户建议在安装时配置清华或中科大镜像源以加速下载。

安装步骤

R 语言安装

通过 CRAN 直接安装：

install.packages("DALEX")

国内加速方案（使用清华镜像）：

options(repos = c(CRAN = "https://mirrors.tuna.tsinghua.edu.cn/CRAN"))
install.packages("DALEX")

提示: 如果你使用 mlr3, caret, xgboost, h2o 等特定包，建议额外安装扩展包 DALEXtra 以获得更便捷的接口：

install.packages("DALEXtra")

Python 安装

通过 pip 或 conda 安装：

pip install dalex -U

或使用 conda：

conda install -c conda-forge dalex

国内加速方案（使用清华 pip 镜像）：

pip install dalex -U -i https://pypi.tuna.tsinghua.edu.cn/simple

基本使用

DALEX 的核心工作流程分为两步：

1. 使用 explain() 创建模型的解释器对象（Wrapper）。
2. 调用特定的绘图或分析函数（如 model_profile, shap_plot 等）进行可视化分析。

以下分别展示 R 和 Python 的最简示例。

R 语言示例

假设你已经训练了一个线性回归模型 model，数据为 apartments。

library(DALEX)

# 1. 创建解释器对象
# model: 训练好的模型对象
# data: 训练数据集
# y: 真实标签向量
# label: 模型的自定义名称，用于图表区分
explainer <- explain(
  model = model, 
  data = apartments[, -6], 
  y = apartments[, 6], 
  label = "Linear Regression"
)

# 2. 生成并绘制全局解释（变量重要性）
# plot() 函数可直接展示可视化结果
plot(model_profile(explainer))

# 3. 生成并绘制局部解释（单次预测的贡献度，类似 SHAP/LIME)
# new_observation 是单行数据
prediction <- predict(explainer, new_observation)
plot(break_down(explainer, new_observation))

Python 示例

假设你已经使用 scikit-learn 训练了一个随机森林模型 rf_model。

import dalex as dx
from sklearn.datasets import load_boston
from sklearn.ensemble import RandomForestRegressor
from sklearn.model_selection import train_test_split

# 准备数据
data = load_boston()
X_train, X_test, y_train, y_test = train_test_split(data.data, data.target, random_state=42)

# 训练模型 (此处仅为示例，实际请使用你已训练好的模型)
rf_model = RandomForestRegressor(random_state=42)
rf_model.fit(X_train, y_train)

# 1. 创建解释器对象
explainer = dx.Explainer(
    model=rf_model,
    X=X_test,
    y=y_test,
    label="Random Forest"
)

# 2. 生成并绘制变量重要性图
importance = explainer.model_parts()
importance.plot()

# 3. 生成并绘制单次预测的归因分析 (Break Down)
# 选取第一条数据进行解释
observation = X_test.iloc[0, :]
bd = explainer.predict_parts(observation)
bd.plot()

通过以上步骤，你可以快速获得模型的变量重要性排序以及具体预测值的归因分析，从而打开“黑盒”，理解模型行为。