提高恶意AI图像编辑的成本

本仓库包含我们近期关于保护图像免受机器学习驱动的图片编辑模型（如Stable Diffusion）篡改的工作代码。

提高恶意AI图像编辑的成本
哈迪·萨尔曼*, 阿拉·卡达吉*, 吉约姆·勒克莱尔*, 安德鲁·伊利亚斯，亚历山大·马德里
论文: https://arxiv.org/abs/2302.06588
博客文章: https://gradientscience.org/photoguard
交互式演示: https://huggingface.co/spaces/hadisalman/photoguard（请参阅[下方](#new-interactive-demo)了解如何在本地运行）

    @article{salman2023raising,
      title={Raising the Cost of Malicious AI-Powered Image Editing},
      author={Salman, Hadi and Khaddaj, Alaa and Leclerc, Guillaume and Ilyas, Andrew and Madry, Aleksander},
      journal={arXiv preprint arXiv:2302.06588},
      year={2023}
    }

快速入门

我们的代码依赖于Hugging Face上的Stable Diffusion代码库。

1. 克隆我们的仓库：git clone https://github.com/madrylab/photoguard.git

2. 安装依赖：

     conda create -n photoguard python=3.10
     conda activate photoguard
     pip install -r requirements.txt
     huggingface-cli login
   

3. 现在您已经准备就绪！请查看我们的笔记本！

[新] 交互式演示

我们使用Gradio创建了一个交互式演示，并将其托管在Hugging Face空间上。

不过，为了获得更快的推理速度，您也可以在本地机器上运行该演示！只需执行以下命令：

conda activate photoguard
cd demo
python app.py

生成高质量假图像

第一步我们将指导您如何生成高质量的假图像。请查看此笔记本！最终效果如下所示：

请参阅此笔记本！

简单的照片防护（编码器攻击）：

接下来，我们将介绍我们实现的最简单形式的照片防护方法。具体来说，我们对Stable Diffusion模型的图像嵌入部分实施了一个简单的PGD攻击。我们有两个演示展示了这种照片防护方法的有效性。两者的目的是让Stable Diffusion模型生成要么不真实、要么与原始图像无关的内容。

针对图像到图像流水线的照片防护

第一个场景是有人使用一张图像和提示词，根据提示描述来修改输入图像。

请参阅此笔记本！

针对修复流水线的照片防护

第二个更有趣的场景是有人希望通过修复技术编辑现有图像的某些部分。经过免疫处理后生成的图像明显是伪造的！

请参阅此笔记本！

复杂的照片防护（扩散攻击）

为了更有效地防护，尤其是在应对图像修复时，我们需要对Stable Diffusion模型进行端到端的攻击。此时，经过免疫处理后生成的图像比之前更加明显地呈现出伪造特征！

请参阅此笔记本！

好了！如果您有任何问题，请随时告诉我们。更多关于这些攻击的细节，请参阅我们的论文。

PhotoGuard 快速上手指南

PhotoGuard 是一个旨在保护图像免受恶意 AI 编辑（如 Stable Diffusion 生成的篡改图像）的开源工具。它通过对图像添加人眼不可见的扰动，使得 AI 模型在尝试编辑该图像时生成失真或无关的结果。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统: Linux 或 macOS (Windows 用户建议使用 WSL2)
• Python 版本: 3.10
• 硬件要求: 推荐配备 NVIDIA GPU 以加速推理和攻击生成过程
• 前置依赖:
  • Conda (推荐用于环境管理)
  • Git
  • Hugging Face 账号 (用于下载预训练模型)

安装步骤

请按照以下步骤在本地搭建 PhotoGuard 环境：

1. 克隆仓库

   git clone https://github.com/madrylab/photoguard.git
   cd photoguard
   

2. 创建并激活 Conda 环境

   conda create -n photoguard python=3.10
   conda activate photoguard
   

3. 安装 Python 依赖

   提示: 国内用户若遇到 pip 下载速度慢的问题，可添加清华源加速： pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple

   pip install -r requirements.txt
   

4. 登录 Hugging Face 您需要登录以下载 Stable Diffusion 模型权重：

   huggingface-cli login
   

   按提示输入您的 Hugging Face Access Token。

基本使用

安装完成后，您可以通过运行官方提供的 Jupyter Notebook 来体验核心功能，或者启动本地的交互式演示。

方式一：运行交互式演示 (推荐新手)

该项目提供了一个基于 Gradio 的本地演示界面，方便直观地测试图片防护效果。

1. 进入 demo 目录：

   cd demo
   

2. 启动应用：

   python app.py
   

3. 在浏览器中打开终端显示的本地地址（通常为 http://127.0.0.1:7860），上传图像并选择防护模式（如 Image-to-Image 或 Inpainting）即可看到防护后的效果。

方式二：通过 Notebook 体验核心算法

如果您希望深入了解代码逻辑或生成高质量的对抗样本，建议使用 Google Colab 或本地 Jupyter 运行以下笔记：

• 生成高质量伪造图像示例: notebooks/generating_fake_images.ipynb (也可在 Colab 直接运行)

• 简单防护模式 (Encoder Attack): 针对 Image-to-Image 或 Inpainting 流程的基础防护，使生成结果变得不真实。

  • Image-to-Image: notebooks/demo_simple_attack_img2img.ipynb
  • Inpainting: notebooks/demo_simple_attack_inpainting.ipynb

• 复杂防护模式 (Diffusion Attack): 端到端攻击 Stable Diffusion 模型，提供更强的防护效果，尤其适用于防止局部重绘（Inpainting）。

  • Inpainting: notebooks/demo_complex_attack_inpainting.ipynb