AI公平性360（AIF360）

AI公平性360工具包是一个可扩展的开源库，包含由研究社区开发的技术，旨在帮助在整个AI应用生命周期中检测和缓解机器学习模型中的偏见。AI公平性360软件包同时提供Python和R两种语言的接口。

AI公平性360软件包包括：

1. 一套全面的数据集和模型偏差检测指标，
2. 对这些指标的解释说明，
3. 用于减轻数据集和模型中偏见的算法。 它旨在将实验室中的算法研究成果转化为实际应用，覆盖金融、人力资本管理、医疗保健和教育等广泛领域。我们诚邀您使用并改进该工具包。

AIF360交互式体验 提供了对相关概念和功能的入门介绍。教程及其他笔记本 则提供了更深入、面向数据科学家的介绍。完整的API文档也可供查阅。

由于该工具包功能全面，用户可能难以确定在特定应用场景下应选择哪些指标和算法。为此，我们准备了一些指导材料，可供参考。

我们在设计该工具包时充分考虑了其可扩展性。目前该库仍在开发中，我们鼓励大家贡献自己的指标、解释器和去偏算法。

欢迎通过Slack与我们联系（邀请链接此处）！

支持的偏见缓解算法

• 优化预处理（Calmon等，2017）
• 差异化影响消除器（Feldman等，2015）
• 平等机会后处理（Hardt等，2016）
• 重加权法（Kamiran和Calders，2012）
• 拒绝选项分类法（Kamiran等，2012）
• 偏见去除正则化器（Kamishima等，2012）
• 校准后的平等机会后处理（Pleiss等，2017）
• 学习公平表示法（Zemel等，2013）
• 对抗性去偏法（Zhang等，2018）
• 公平分类元算法（Celis等，2018）
• 丰富子组公平性（Kearns、Neel、Roth、Wu，2018）
• 指数梯度约减法（Agarwal等，2018）
• 网格搜索约减法（Agarwal等，2018；Agarwal等，2019）
• 公平数据适应法（Plečko和Meinshausen，2020；Plečko等，2021）
• 敏感集合不变性/敏感子空间鲁棒性（Yurochkin和Sun，2020；Yurochkin等，2019）

支持的公平性指标

• 从选择率和错误率衍生出的一系列群体公平性指标，包括丰富子组公平性
• 一系列样本扭曲度量指标
• 广义熵指数（Speicher等，2018）
• 差分公平性和偏见放大效应（Foulds等，2018）
• 多维子集扫描偏见检测法（Zhang、Neill，2017）

安装

R

install.packages("aif360")

有关R环境安装的更多详细信息，请参阅此处的说明。

Python

支持的Python配置：

操作系统	Python版本
macOS	3.8 – 3.11
Ubuntu	3.8 – 3.11
Windows	3.8 – 3.11

（可选）创建虚拟环境

AIF360需要多个特定版本的Python包，这些依赖项可能会与您系统上的其他项目产生冲突。强烈建议使用虚拟环境管理器来确保依赖项能够安全安装。如果您在安装AIF360时遇到困难，请首先尝试此方法。

Conda

尽管Virtualenv通常也可以满足我们的需求，但我们推荐使用Conda。如果您尚未安装Conda，仅需Miniconda即可（如果您想了解Anaconda和Miniconda的区别，可以参阅此处）。然后，要创建一个新的Python 3.11环境，请运行：

conda create --name aif360 python=3.11
conda activate aif360

此时终端提示符应显示为(aif360) $。要退出该环境，运行：

(aif360)$ conda deactivate

提示符将恢复为$ 。

使用pip安装

要从PyPI安装最新稳定版本，运行：

pip install aif360

注意：部分算法需要额外的依赖项（尽管大多数指标无需额外安装即可使用）。若需安装包含特定算法依赖的版本，例如：

pip install 'aif360[LFR,OptimPreproc]'

或为了获得完整功能，运行：

pip install 'aif360[all]'

可用的附加选项包括：OptimPreproc, LFR, AdversarialDebiasing, DisparateImpactRemover, LIME, ART, Reductions, FairAdapt, inFairness, LawSchoolGPA, notebooks, tests, docs, all。

如果遇到任何问题，请尝试故障排除步骤。

手动安装

克隆该仓库的最新版本：

git clone https://github.com/Trusted-AI/AIF360

如果您想运行示例，请立即下载数据集，并按照 aif360/data/README.md 中的说明将其放置到各自的文件夹中。

然后，导航到项目根目录并运行：

pip install --editable '.[all]'

运行示例

要运行示例笔记本，您需要先完成上述手动安装步骤。如果之前没有使用 [all] 选项，请按以下方式安装额外的依赖项：

pip install -e '.[notebooks]'

最后，如果您尚未下载数据集，请按照 aif360/data/README.md 中的说明进行下载。

故障排除

如果在安装过程中遇到任何错误，请在此处查找您的问题并尝试相应的解决方案。

TensorFlow

请参阅 通过 pip 安装 TensorFlow 页面以获取详细说明。

注意：我们要求 'tensorflow >= 1.13.1'。

安装完 TensorFlow 后，尝试重新运行：

pip install 'aif360[AdversarialDebiasing]'

TensorFlow 仅在使用 aif360.algorithms.inprocessing.AdversarialDebiasing 类时才需要。

CVXPY

在 macOS 上，如果您之前从未安装过 Xcode 命令行工具，可能需要先安装：

xcode-select --install

在 Windows 上，您可能需要下载 适用于 Visual Studio 2019 的 Microsoft C++ 构建工具。有关最新说明，请参阅 CVXPY 安装页面。

然后，尝试通过以下命令重新安装：

pip install 'aif360[OptimPreproc]'

CVXPY 仅在使用 aif360.algorithms.preprocessing.OptimPreproc 类时才需要。

使用 AIF360

examples 目录包含各种 Jupyter 笔记本，这些笔记本以不同方式使用 AI Fairness 360。教程和演示都展示了使用 AIF360 的实际代码。教程还提供了额外的讨论，引导用户逐步完成笔记本中的各个步骤。有关教程和演示的详细信息，请参阅 examples/README.md。

引用 AIF360

AI Fairness 360 的技术描述可在该 论文 中找到。以下是该论文的 BibTeX 条目。

@misc{aif360-oct-2018,
    title = "{AI Fairness} 360: 一个可扩展的工具包，用于检测、理解和缓解不必要的算法偏见",
    author = {Rachel K. E. Bellamy 和 Kuntal Dey 和 Michael Hind 和
	Samuel C. Hoffman 和 Stephanie Houde 和 Kalapriya Kannan 和
	Pranay Lohia 和 Jacquelyn Martino 和 Sameep Mehta 和
	Aleksandra Mojsilovic 和 Seema Nagar 和 Karthikeyan Natesan Ramamurthy 和
	John Richards 和 Diptikalyan Saha 和 Prasanna Sattigeri 和
	Moninder Singh 和 Kush R. Varshney 和 Yunfeng Zhang},
    month = oct,
    year = {2018},
    url = {https://arxiv.org/abs/1810.01943}
}

AIF360 视频

• Kush Varshney 于 2018 年 9 月 20 日制作的 AI Fairness 360 入门 视频（32 分钟）

贡献

Rich Subgroup Fairness 的开发分支（inprocessing/gerryfair_classifier.py）位于 这里。欢迎贡献，作者列出的潜在贡献清单可在 这里 查看。

AIF360 快速上手指南

AI Fairness 360 (AIF360) 是一个可扩展的开源工具包，旨在帮助开发者在 AI 应用生命周期中检测和缓解机器学习模型中的偏见。它提供了丰富的公平性指标、解释说明以及去偏算法，支持 Python 和 R 语言。

环境准备

系统要求

AIF360 支持以下操作系统及 Python 版本：

操作系统	Python 版本
macOS	3.8 – 3.11
Ubuntu / Linux	3.8 – 3.11
Windows	3.8 – 3.11

前置依赖

由于 AIF360 依赖特定版本的多个 Python 包，强烈建议使用虚拟环境以避免与系统中其他项目冲突。推荐使用 Conda (Miniconda 即可)。

部分高级算法（如对抗去偏、优化预处理）需要额外的底层依赖：

• TensorFlow: 用于 AdversarialDebiasing 算法。
• CVXPY: 用于 OptimPreproc 算法。
  • macOS: 可能需要先安装 Xcode Command Line Tools (xcode-select --install)。
  • Windows: 可能需要安装 Microsoft C++ Build Tools。

安装步骤

1. 创建并激活虚拟环境 (推荐)

使用 Conda 创建名为 aif360 的 Python 3.11 环境：

conda create --name aif360 python=3.11
conda activate aif360

2. 安装 AIF360

方案 A：安装基础版 (仅包含指标计算)

如果只需使用公平性指标检测功能，可直接安装：

pip install aif360
# 国内用户推荐使用清华源加速
# pip install aif360 -i https://pypi.tuna.tsinghua.edu.cn/simple

方案 B：安装完整版 (包含所有去偏算法)

若需使用全部去偏算法（如 LFR, OptimPreproc, AdversarialDebiasing 等），请安装完整依赖：

pip install 'aif360[all]'
# 国内用户推荐使用清华源加速
# pip install 'aif360[all]' -i https://pypi.tuna.tsinghua.edu.cn/simple

注意：如果安装过程中遇到编译错误，请确保已按照“环境准备”中的说明安装了 TensorFlow 或 CVXPY 所需的系统级构建工具。

方案 C：按需安装特定算法

若只需特定算法以减少依赖体积，可指定 extras：

# 例如：仅安装 LFR 和 OptimPreproc 算法依赖
pip install 'aif360[LFR,OptimPreproc]'

基本使用

以下是一个最简单的 Python 示例，演示如何加载数据集并计算常见的群体公平性指标（如统计奇偶差异）。

from aif360.datasets import AdultDataset
from aif360.metrics import BinaryLabelDatasetMetric

# 1. 加载示例数据集 (Adult Dataset)
# protected_attributes: 定义受保护属性 (如性别、种族)
# privileged_groups: 定义特权组 (如男性、白人)
# unprivileged_groups: 定义非特权组
dataset = AdultDataset(
    protected_attributes=['sex', 'race'],
    privileged_groups=[{'sex': 1, 'race': 1}],
    unprivileged_groups=[{'sex': 0, 'race': 0}]
)

# 2. 初始化指标计算器
metric = BinaryLabelDatasetMetric(dataset, 
                                  unprivileged_groups=[{'sex': 0, 'race': 0}],
                                  privileged_groups=[{'sex': 1, 'race': 1}])

# 3. 计算并打印公平性指标
print(f"统计奇偶差异 (Statistical Parity Difference): {metric.statistical_parity_difference():.4f}")
print(f" disparate impact (Disparate Impact): {metric.disparate_impact():.4f}")
print(f"一致性比率 (Consistency): {metric.consistency():.4f}")

# 如果值为 0 (或接近 0)，表示在该指标下偏见较小；偏离 0 越多，偏见越大。

下一步

• 去偏处理：查看 aif360.algorithms 模块，使用 Reweighing、DisparateImpactRemover 等算法对数据进行预处理或后处理。
• 详细教程：安装完成后，可参考官方 examples 目录下的 Jupyter Notebooks 获取更深入的分类模型训练与去偏实战案例。