对抗鲁棒性工具箱 (ART) v1.20

中文README请按此处

对抗鲁棒性工具箱 (ART) 是一个用于机器学习安全的 Python 库。ART 由 Linux 基金会 AI & 数据基金会（LF AI & Data）托管。ART 提供了一系列工具，使开发者和研究人员能够防御并评估机器学习模型和应用免受逃避攻击、投毒攻击、提取攻击和推理攻击等对抗性威胁。ART 支持所有主流的机器学习框架（TensorFlow、Keras、PyTorch、scikit-learn、XGBoost、LightGBM、CatBoost、GPy 等），所有数据类型（图像、表格、音频、视频等）以及各种机器学习任务（分类、目标检测、语音识别、生成、认证等）。

对抗性威胁

ART 适用于红队与蓝队（精选）

了解更多

开始使用	文档	贡献
- 安装 - 示例 - 笔记本	- 攻击 - 防御 - 估计器 - 指标 - 技术文档	- Slack, 邀请 - 贡献 - 路线图 - 引用

该库仍在持续开发中。欢迎提供反馈、报告 bug 和参与贡献！

致谢

本材料部分内容基于美国国防高级研究计划局（DARPA）合同 No. HR001120C0013 的支持。本材料中表达的所有观点、发现、结论或建议均属作者个人观点，不一定反映美国国防高级研究计划局（DARPA）的观点。

Adversarial Robustness Toolbox (ART) 快速上手指南

Adversarial Robustness Toolbox (ART) 是一个用于机器学习安全的 Python 库，旨在帮助开发者和研究人员防御及评估模型免受对抗性威胁（如逃避攻击、投毒攻击、模型提取和推理攻击）。它支持 TensorFlow、PyTorch、Keras、scikit-learn 等主流框架，涵盖图像、表格、音频等多种数据类型。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux, macOS, 或 Windows
• Python 版本：3.8 - 3.11 (推荐最新稳定版)
• 前置依赖：
  • 已安装至少一种主流的机器学习框架（如 tensorflow, pytorch, scikit-learn 等），ART 将自动检测并使用已安装的框架。
  • 建议安装 matplotlib 用于可视化结果（可选）。

安装步骤

您可以使用 pip 直接安装 ART。为了获得更快的下载速度，推荐使用国内镜像源（如清华大学开源软件镜像站）。

方式一：使用 PyPI 官方源

pip install adversarial-robustness-toolbox

方式二：使用国内镜像源（推荐）

pip install adversarial-robustness-toolbox -i https://pypi.tuna.tsinghua.edu.cn/simple

验证安装

安装完成后，可在 Python 中运行以下代码验证是否成功：

import art
print(art.__version__)

基本使用

以下是一个最简单的示例，展示如何使用 ART 对基于 scikit-learn 的分类器生成对抗样本（FGSM 攻击）。

1. 导入依赖并构建模型

首先创建一个简单的机器学习模型并进行训练。

import numpy as np
from sklearn.linear_model import LogisticRegression
from art.estimators.classification import SklearnClassifier

# 构造简单数据
x_train = np.random.rand(100, 20)
y_train = np.random.randint(0, 2, 100)
x_test = np.random.rand(10, 20)
y_test = np.random.randint(0, 2, 10)

# 初始化并训练 scikit-learn 模型
model = LogisticRegression()
model.fit(x_train, y_train)

# 将模型包装为 ART 的 Estimator
classifier = SklearnClassifier(model=model, clip_values=(0, 1))

2. 定义攻击方法并生成对抗样本

使用快速梯度符号法（FGSM）生成对抗样本，并观察模型预测的变化。

from art.attacks.evasion import FGSM

# 初始化攻击方法，设定扰动步长 epsilon
attack = FGSM(classifier, eps=0.1)

# 生成对抗样本
x_adv = attack.generate(x=x_test)

# 对比原始预测与对抗样本预测
print("原始标签:", y_test)
print("原始预测:", np.argmax(classifier.predict(x_test), axis=1))
print("对抗预测:", np.argmax(classifier.predict(x_adv), axis=1))

通过以上步骤，您已成功使用 ART 完成了基础的对抗样本生成。更多高级功能（如防御策略、不同框架支持、指标评估等）请参考官方文档。