Advbox 家族

Advbox 家族是百度开源的一系列人工智能模型安全工具集，涵盖对抗样本的生成、检测与防护，以及针对不同AI应用的攻防案例。

Advbox 家族支持 Python 3.*。

我们的工作

• 基于统一嵌入追踪假新闻犯罪分子。Blackhat Asia 2020
• 公有云机器学习应用的攻击与防御。Blackhat Asia 2020
• 摘要：基于云的图像分类服务对仿射变换并不鲁棒：一个被遗忘的战场。CCSW 2019：ACM 2019年云计算安全研讨会
• 对抗样本对真实世界色情图片检测服务的可迁移性。HITB CyberWeek 2019
• COMMSEC：基于深度学习追踪假新闻。HITB GSEC 2019
• COMMSEC：破解目标检测器就像训练神经网络一样。HITB GSEC 2019 | 参见 代码
• COMMSEC：如何使用CNN检测假脸（篡改图像）。HITB GSEC 2019
• 对抗样本对基于云的图像分类服务的可迁移性。Defcon China 2019
• 使用CNN检测换脸视频。Defcon China 2019

AdvSDK

一款轻量级的PaddlePaddle对抗样本生成SDK。

AdvSDK 主页

AdversarialBox

Adversarialbox 是一个用于生成能够欺骗 PaddlePaddle、PyTorch、Caffe2、MxNet、Keras、TensorFlow 等框架中神经网络的对抗样本的工具箱。Advbox 还可以用来评估机器学习模型的鲁棒性。Advbox 提供了一个无需编码即可生成对抗样本的命令行工具，其灵感来源于 FoolBox v1。

AdversarialBox 主页

AdvDetect

AdvDetect 是一个用于从海量数据中检测对抗样本的工具箱。

AdvDetect 主页

AdvPoison

数据投毒

AI 应用

人脸识别攻击

人脸识别攻击主页

隐形T恤

在 Defcon 上，我们展示了可以在智能摄像头下隐身的T恤。在此子项目下，我们开源了用于演示的智能摄像头程序及部署方法。

隐形T恤主页

假脸检测

该RESTful API用于检测图片或视频中的面部是否为伪造的。

假脸检测主页

Advbox 家族的相关论文和PPT

如何引用

如果您在学术出版物中使用了 AdvBox，请按以下方式引用：

@misc{goodman2020advbox,
    title={Advbox：一个用于生成能欺骗神经网络的对抗样本的工具箱},
    author={Dou Goodman、Hao Xin、Wang Yang、Wu Yuesheng、Xiong Junfeng、Zhang Huan},
    year={2020},
    eprint={2001.05574},
    archivePrefix={arXiv},
    primaryClass={cs.LG}
}

基于云的图像分类服务对仿射变换并不鲁棒：一个被遗忘的战场

@inproceedings{goodman2019cloud,
  title={基于云的图像分类服务对仿射变换并不鲁棒：一个被遗忘的战场},
  author={Goodman, Dou；Hao, Xin；Wang, Yang；Tang, Jiawei；Jia, Yunhan；Wei, Tao等},
  booktitle={2019年ACM SIGSAC云计算安全研讨会论文集},
  pages={43--43},
  year={2019},
  organization={ACM}
}

使用或引用 AdvBox 的机构和个人

• Wu, Winston、Arendt, Dustin 和 Volkova, Svitlana；评估机器阅读理解任务中神经网络的鲁棒性；欧洲计算语言学协会第16次会议论文集：主卷，2021年，第2470–2481页
• Pablo Navarrete Michelini、Hanwen Liu、Yunhua Lu、Xingqun Jiang；由线性解释器引导的卷积网络之旅；IEEE国际计算机视觉会议（ICCV），2019年，第4753–4762页
• Ling, Xiang、Ji, Shouling、Zou, Jiaxu、Wang, Jiannan、Wu, Chunming、Li, Bo、Wang, Ting；Deepsec：一个用于深度学习模型安全分析的统一平台；IEEE S&P，2019年
• Deng, Ting 和 Zeng, Zhigang；通过在有意义区域进行空间扰动生成对抗样本；《模式识别快报》期刊，2019年，第632–638页

问题报告

https://github.com/baidu/AdvBox/issues

许可证

AdvBox 采用 Apache License 2.0 授权。

AdvBox 快速上手指南

AdvBox 是百度开源的一系列 AI 模型安全工具集，涵盖对抗样本的生成、检测与防御，并提供针对不同 AI 应用的攻防案例。本指南将帮助您快速搭建环境并运行基础功能。

1. 环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux / macOS / Windows
• Python 版本：Python 3.* (推荐 Python 3.6 及以上)
• 深度学习框架：根据您的需求至少安装以下其中之一：
  • PaddlePaddle (百度飞桨，AdvSDK 核心依赖)
  • PyTorch
  • TensorFlow
  • Keras
  • Caffe2
  • MxNet
• 国内加速建议：
  • 推荐使用清华或阿里镜像源安装 Python 依赖，以提升下载速度。
  • PaddlePaddle 用户请参考 PaddlePaddle 国内安装文档 选择对应的 CPU/GPU 版本。

2. 安装步骤

步骤一：克隆项目

从 GitHub 获取 AdvBox 源代码：

git clone https://github.com/baidu/AdvBox.git
cd AdvBox

步骤二：安装依赖

进入项目目录后，安装所需的 Python 依赖包。建议使用虚拟环境（如 venv 或 conda）以避免冲突。

pip install -r requirements.txt

提示：若下载速度慢，可使用国内镜像源：

pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple

步骤三：安装特定组件（可选）

AdvBox 包含多个子模块，您可以根据需求单独配置：

• AdversarialBox (对抗样本生成): 无需额外安装，依赖上述框架即可。
• AdvSDK (轻量级 PaddlePaddle SDK): 详见 advsdk/README.md。
• AdvDetect (对抗样本检测): 详见 advbox_family/AdvDetect/README.md。

3. 基本使用

AdvBox 的核心功能之一是 AdversarialBox，它支持零代码（Zero-Coding）命令行操作来生成对抗样本。以下是一个基于命令行生成对抗样本的最简示例。

场景：生成对抗样本

假设您已有一个训练好的模型和测试图片，想要生成能够欺骗该模型的对抗样本。

命令格式：

python advbox_family/AdversarialBox/demo.py --framework <框架名称> --model <模型路径> --input <输入图片> --output <输出目录> --method <攻击算法>

具体示例（以 TensorFlow 和 FGSM 算法为例）：

python advbox_family/AdversarialBox/demo.py \
    --framework tensorflow \
    --model models/mnist_model.h5 \
    --input data/sample_image.png \
    --output results/adv_images \
    --method fgsm \
    --epsilon 0.3

参数说明：

• --framework: 指定深度学习框架 (支持 tensorflow, pytorch, paddle, keras 等)。
• --model: 预训练模型的文件路径。
• --input: 原始输入图片路径。
• --output: 生成的对抗样本保存目录。
• --method: 攻击算法名称 (如 fgsm, cw, deepfool 等)。
• --epsilon: 扰动强度（针对某些算法）。

进阶应用

对于更复杂的应用场景（如人脸识别攻击、隐形 T 恤生成、假脸检测等），请参考项目根目录下 applications/ 文件夹中对应子项目的详细 README 文档：

• 人脸识别攻击: applications/face_recognition_attack/README.md
• 隐形 T 恤 (Stealth T-shirt): applications/StealthTshirt/README.md
• 假脸检测 API: applications/fake_face_detect/README.md

---

更多详细信息及学术引用，请访问项目主页或查看完整文档。