扩散模型

这是一个易于理解的扩散模型实现，代码不超过100行。与其他实现不同，这段代码没有使用采样的下界公式，而是严格遵循DDPM论文中的算法1，因此代码非常简洁且容易跟进。提供了两种实现方式：conditional（条件）和unconditional（无条件）。此外，条件版本的代码还实现了无分类器指导（CFG）和指数移动平均（EMA）。下方是两段讲解视频，分别介绍扩散模型的理论基础和代码实现。

---

在自己的数据上训练扩散模型：

无条件训练

1. （可选）在ddpm.py中配置超参数
2. 在ddpm.py中设置数据集路径
3. 运行python ddpm.py

条件训练

1. （可选）在ddpm_conditional.py中配置超参数
2. 在ddpm_conditional.py中设置数据集路径
3. 运行python ddpm_conditional.py

采样

以下示例展示了如何使用视频中训练的模型，从Landscape Dataset中采样图像。您可以从这里下载这些模型的检查点。

无条件模型

    device = "cuda"
    model = UNet().to(device)
    ckpt = torch.load("unconditional_ckpt.pt")
    model.load_state_dict(ckpt)
    diffusion = Diffusion(img_size=64, device=device)
    x = diffusion.sample(model, n=16)
    plot_images(x)

条件模型

该模型是在CIFAR-10 64x64数据集上训练的，包含10个类别：airplane:0, auto:1, bird:2, cat:3, deer:4, dog:5, frog:6, horse:7, ship:8, truck:9。

    n = 10
    device = "cuda"
    model = UNet_conditional(num_classes=10).to(device)
    ckpt = torch.load("conditional_ema_ckpt.pt")
    model.load_state_dict(ckpt)
    diffusion = Diffusion(img_size=64, device=device)
    y = torch.Tensor([6] * n).long().to(device)
    x = diffusion.sample(model, n, y, cfg_scale=3)
    plot_images(x)

---

该代码的更高级版本可在@tcapelle的这里找到。它引入了更好的日志记录、更快更高效的训练以及其他实用功能，并配有精彩的文章。

Diffusion-Models-pytorch 快速上手指南

环境准备

本工具基于 PyTorch 构建，适用于 Linux、macOS 和 Windows 系统。

前置依赖：

• Python >= 3.8
• PyTorch (建议安装支持 CUDA 的版本以加速训练和采样)
• torchvision
• matplotlib (用于可视化生成结果)

推荐安装命令（使用国内镜像源）：

pip install torch torchvision -i https://pypi.tuna.tsinghua.edu.cn/simple
pip install matplotlib -i https://pypi.tuna.tsinghua.edu.cn/simple

安装步骤

该项目代码极其精简（核心逻辑约 100 行），无需通过 pip 安装包，直接克隆源码即可使用。

1. 克隆仓库：

   git clone https://github.com/huggingface/diffusion-models-pytorch.git
   cd diffusion-models-pytorch
   

2. 验证文件： 确保目录下存在 ddpm.py (无条件生成) 和 ddpm_conditional.py (有条件生成) 等核心脚本。

基本使用

1. 训练模型

你可以使用自己的数据集训练无条件或有条件的扩散模型。只需修改脚本中的数据集路径和超参数（可选）。

无条件训练 (Unconditional Training)： 编辑 ddpm.py 设置数据路径后运行：

python ddpm.py

有条件训练 (Conditional Training)： 编辑 ddpm_conditional.py 设置数据路径后运行（支持 Classifier-Free-Guidance 和 EMA）：

python ddpm_conditional.py

2. 图像采样 (Sampling)

加载预训练权重或你自己训练的模型进行图像生成。以下示例展示了如何加载检查点并生成图像。

无条件模型采样：

    device = "cuda"
    model = UNet().to(device)
    ckpt = torch.load("unconditional_ckpt.pt")
    model.load_state_dict(ckpt)
    diffusion = Diffusion(img_size=64, device=device)
    x = diffusion.sample(model, n=16)
    plot_images(x)

有条件模型采样： 以下示例基于 CIFAR-10 数据集（10 个类别），生成类别为 "frog" (标签 6) 的图像，并启用 CFG 引导比例 3.0。

    n = 10
    device = "cuda"
    model = UNet_conditional(num_classes=10).to(device)
    ckpt = torch.load("conditional_ema_ckpt.pt")
    model.load_state_dict(ckpt)
    diffusion = Diffusion(img_size=64, device=device)
    y = torch.Tensor([6] * n).long().to(device)
    x = diffusion.sample(model, n, y, cfg_scale=3)
    plot_images(x)

提示： 如需体验视频演示中的效果，可前往 Google Drive 下载预训练检查点文件。