Progressive Growing of GANs for Improved Quality, Stability, and Variation 的 PyTorch 实现。

警告：主分支可能会崩溃。若想在 README 中获得类似结果，可以回退到这个 commit，但请注意，在该 commit 下某些操作并未正确实现。此外，建议使用较低的学习率，例如 1e-4 即可。

如何创建 CelebA-HQ 数据集

我借用了 官方代码 中的 h5tool.py。要创建 CelebA-HQ 数据集，首先需要下载原始 CelebA 数据集，以及额外的 deltas 文件，可以从 这里 获取。下载完成后，运行以下命令：

python2 h5tool.py create_celeba_hq file_name_to_save /path/to/celeba_dataset/ /path/to/celeba_hq_deltas

我在笔记本上使用的命令如下：

python2 h5tool.py create_celeba_hq /Users/yuan/Downloads/CelebA-HQ /Users/yuan/Downloads/CelebA/Original\ CelebA/ /Users/yuan/Downloads/CelebA/CelebA-HQ-Deltas

我发现 MD5 校验总是失败，因此直接注释掉了 MD5 校验的部分（第 568 行 和 第 589 行）。

在默认设置下，我的服务器上大约需要 1 天时间完成。可以通过指定 num_threads 和 num_tasks 来加速处理。

从头开始训练

首先需要创建 CelebA-HQ 数据集，请按照上述说明操作。

若想在 samples 目录中获得类似的结果，可以查看 train_no_tanh.py 或 train.py 脚本以获取详细信息（使用默认选项即可）。两者都应能正常工作。例如，可以运行以下命令：

conda create -n pytorch_p36 python=3.6 h5py matplotlib
source activate pytorch_p36
conda install pytorch torchvision -c pytorch
conda install scipy
pip install tensorflow

#0=第一块显卡，1=第二块显卡，2=第三块显卡等...
python train.py --gpu 0,1,2 --train_kimg 600 --transition_kimg 600 --beta1 0 --beta2 0.99 --gan lsgan --first_resol 4 --target_resol 256 --no_tanh

train_kimg（transition_kimg）表示在看到 train_kimg * 1000（transition_kimg * 1000）张真实图像后，切换到渐入（稳定）阶段。目前仅支持 LSGAN 和带有 --no_noise 选项的 GAN，因为 WGAN-GP 尚不可用，--drift 选项对结果并无影响。--no_tanh 表示在生成器的输出层不使用 tanh 函数。

如果你使用的是 Python 2，建议在 train.py 的顶部添加以下代码，因为我使用 print('something...', file=f) 将实验设置写入文件。

from __future__ import print_function

TensorBoard：

tensorboard --logdir='./logs'

更新历史

• 更新（20171213）：更新了 data.py，现在在渐入阶段，真实图像会由当前分辨率图像和 0.5 倍分辨率图像加权组合而成。这种加权技巧与生成器输出或判别器输入中的做法类似，有助于在渐入时保持稳定。

• 更新（20171129）：增加了恢复模式。此外，经过多次尝试，我未能成功将 BEGAN 与 PG-GAN 结合，现已从仓库中移除。

• 更新（20171124）：现在开始使用 CelebA-HQ 数据集进行训练。不过，尽管进行了大量修改，仍然无法将渐进式增长引入 BEGAN。

• 更新（20171121）：将渐进式增长引入 BEGAN，详见 train_began.py 脚本。然而，实验表明目前仍无法实现。正在寻找 bug 并调整网络结构……

• 更新（20171119）：不稳定问题源于 resize_activation 函数。将 repeat 替换为 torch.nn.functional.upsample 后，问题得以解决。现在我认为 train.py 和 train_no_tanh 都应该是稳定的。已从 128x128 的稳定状态恢复，并继续训练，目前处于 256x256 阶段，处于渐入阶段，临时结果（左起前两列是生成的，后两列来自数据集）：

• 更新（20171118）：在 resize activation 函数中犯了一个错误（在此函数中使用 repeat 是不正确的），虽然错误，但在分辨率低于 256 时仍有效，但当分辨率达到或超过 256 时就会崩溃。目前正在修复，脚本将于明天更新。对此错误深表歉意。

• 更新（20171117）：128x128 渐入阶段的结果（左起前两列是生成的，后两列来自数据集）：

• 更新（20171116）：仅向 RGB 图像添加噪声仍可能导致崩溃。改用论文中建议的相同技巧。此外，论文中将 G 的输出层激活函数设为 linear，这在实验观察中是合理的。临时结果：64x64，处于渐入阶段，左起四列为生成图像，右起四列为真实样本（渐入时可能会出现不稳定现象，例如以下结果并不理想，但随着训练的进行会逐渐改善），更高分辨率的结果即将呈现。

• 更新（20171115）：渐入时发生了模式坍塌，正在调试……结果发现，渐入阶段出现不稳定似乎是正常现象，经过几次迭代后情况会有所改善。目前我没有采用论文中建议的相同加噪技巧，但之前已经实现了，我会对其进行测试并将其整合到网络中。

• 更新（20171114）：第一个版本，似乎生成器倾向于生成白色图像。正在调试中。=> 修复了一些 bug。现在看起来正常，正在训练……=> 渐入阶段仍存在一些未知问题，正在调试中……

• 更新（20171113）：生成器和判别器：没问题，简单测试通过。

• 更新（20171112）：目前正处于重新实现阶段。

• 更新（20171111）：仍在实现过程中。最初并未仔细设计网络结构，现在不得不重新实现（当前结构难以实现“渐入”阶段）。同时修复了一些 bug，由于需要重新实现，暂时不计划提交 Pull Request。

参考实现

• https://github.com/github-pengge/PyTorch-progressive_growing_of_gans

PyTorch 渐进式生长 GAN 快速上手指南

本指南基于 PyTorch-progressive_growing_of_gans 项目，帮助开发者快速复现论文《Progressive Growing of GANs for Improved Quality, Stability, and Variation》中的效果。

⚠️ 重要提示：主分支（master）可能存在不稳定性。若需获得与 README 示例相似的结果，建议回退至特定提交版本 2c04be1，并将学习率设置为 1e-4。

1. 环境准备

系统要求

• 操作系统: Linux / macOS (Windows 未明确测试，建议 Linux)
• Python 版本: 推荐 Python 3.6 (部分脚本依赖 Python 2 处理数据集，但训练支持 Py3)
• GPU: 支持 CUDA 的 NVIDIA 显卡（多卡训练效果更佳）

前置依赖

需要安装以下核心库：

• PyTorch
• torchvision
• h5py
• matplotlib
• scipy
• tensorflow (仅用于部分依赖检查，非核心训练)

2. 安装步骤

2.1 创建虚拟环境并安装依赖

推荐使用 Conda 进行环境管理。以下命令基于 Python 3.6 环境：

# 创建名为 pytorch_p36 的环境
conda create -n pytorch_p36 python=3.6 h5py matplotlib

# 激活环境
source activate pytorch_p36

# 安装 PyTorch 和 torchvision (国内用户可使用清华源加速)
# 官方源: conda install pytorch torchvision -c pytorch
# 清华源加速:
conda install pytorch torchvision -c pytorch --override-channels -c https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/

# 安装其他科学计算库
conda install scipy

# 安装 tensorflow (pip 方式)
pip install tensorflow

2.2 克隆项目代码

git clone https://github.com/github-pengge/PyTorch-progressive_growing_of_gans.git
cd PyTorch-progressive_growing_of_gans

# 【可选】回退到稳定版本 commit (推荐)
git checkout 2c04be1d9ee76f9c83335547785c6559c1164a29

3. 基本使用

3.1 准备 CelebA-HQ 数据集

在训练前，必须先将原始 CelebA 数据集转换为 CelebA-HQ 格式。

1. 下载数据：

   • 原始 CelebA 数据集
   • CelebA-HQ Deltas 文件

2. 执行转换脚本： 注意：此步骤可能需要 Python 2 环境。如果 MD5 校验失败，请手动注释掉 h5tool.py 第 568 行和 589 行的校验代码。

# 语法: python2 h5tool.py create_celeba_hq <保存路径> <原始数据集路径> <Deltas 文件路径>
python2 h5tool.py create_celeba_hq /path/to/save/CelebA-HQ /path/to/celeba_dataset/ /path/to/celeba_hq_deltas

注：默认单线程处理耗时较长，可通过修改脚本增加 num_threads 加速。

3.2 开始训练

确保数据集准备完毕后，运行训练脚本。以下示例展示如何使用多卡训练生成 256x256 分辨率图像。

# 参数说明:
# --gpu 0,1,2 : 使用第 0, 1, 2 号 GPU
# --train_kimg 600 : 每看到 600,000 张图进入下一阶段
# --transition_kimg 600 : 过渡阶段持续时间
# --gan lsgan : 使用 LSGAN 损失函数
# --first_resol 4 --target_resol 256 : 从 4x4 渐进生长至 256x256
# --no_tanh : 生成器输出层不使用 tanh 激活

python train.py --gpu 0,1,2 --train_kimg 600 --transition_kimg 600 --beta1 0 --beta2 0.99 --gan lsgan --first_resol 4 --target_resol 256 --no_tanh

Python 2 用户注意： 如果您在 Python 2 环境下运行 train.py，请在文件顶部添加以下代码以兼容打印语法：

from __future__ import print_function

3.3 查看训练日志

项目支持 TensorBoard 可视化，启动命令如下：

tensorboard --logdir='./logs'

随后在浏览器访问 http://localhost:6006 即可监控训练过程。