Wasserstein GAN

这是在 MNIST 和 SVHN 数据集上实现的 WGAN 的 TensorFlow 版本。

需求

tensorflow==1.0.0+

numpy

matplotlib

cv2

使用方法

训练：使用 WGAN.ipynb，在第二个单元格中设置参数，并选择要运行的数据集。可以使用 TensorBoard 来可视化训练过程。

生成：使用 generate_from_ckpt.ipynb，在第二个单元格中设置 ckpt_dir。别忘了相应地更改数据集类型。

注意事项

1. 所有数据都会自动下载。SVHN 脚本是基于 这个 修改而来的。

2. 所有超参数默认设置为原论文推荐的值。Diters 表示每一步中判别器更新的次数。在 原始 PyTorch 版本 中，除非迭代步数小于 25 或者能被 500 整除，否则 Diters 被设置为 5。我认为由于判别器可以充分优化，因此在训练初期和每隔 500 步多更新几次判别器是合理的，所以我直接沿用了这一设置，没有进行调整。生成器和判别器的学习率都设置为 5e-5。由于在训练过程中梯度范数一直较高（大约在 1e3 左右），建议不要大幅调整学习率。

3. 使用 MLP 版本可能需要更长时间才能生成清晰的图像。

4. 在这个实现中，判别器的损失函数是 tf.reduce_mean(fake_logit - true_logit)，而生成器的损失函数则是 tf.reduce_mean(-fake_logit)。实际上，如果在这两个损失函数前面都加上一个负号，整个系统仍然可以正常工作，这并不影响结果。回想一下，判别器的对偶形式损失是 ，其中集合 关于符号是对称的。将 $f$ 替换为 $-f$ 后，得到的是 ，即原形式的相反数。原始 PyTorch 实现采用的是第二种形式，而本实现采用的是第一种形式，两者效果相同。你可以尝试加上负号再试一试。

5. 请在代码中设置你要运行的设备，搜索 tf.device 并相应修改。默认情况下，程序会在 gpu:0 上运行。

6. 增加了 Improved-WGAN 的实现，但不知为何梯度范数接近 1，导致平方梯度归一化器不起作用。目前尚未弄清原因。

WGAN-tensorflow 快速上手指南

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux / macOS / Windows
• Python 版本：建议 Python 3.6+
• 核心依赖：
  • tensorflow (版本需 >= 1.0.0)
  • numpy
  • matplotlib
  • cv2 (即 opencv-python)

国内加速建议：安装依赖时推荐使用清华或阿里镜像源以提升下载速度。 例如：pip install -i https://pypi.tuna.tsinghua.edu.cn/simple <package_name>

安装步骤

1. 克隆项目代码

   git clone <项目仓库地址>
   cd WGAN-tensorflow
   

   (注：请替换 <项目仓库地址> 为实际的 GitHub 仓库链接)

2. 安装依赖库 使用 pip 安装所需库（推荐国内镜像）：

   pip install -i https://pypi.tuna.tsinghua.edu.cn/simple tensorflow==1.0.0 numpy matplotlib opencv-python
   

   注意：本项目基于 TensorFlow 1.x 开发，若您的环境默认为 TF 2.x，可能需要创建虚拟环境并安装特定版本，或使用 tf.compat.v1 兼容模式。

基本使用

本项目包含两个主要的 Jupyter Notebook 文件，分别用于训练和生成图像。

1. 模型训练 (Train)

使用 WGAN.ipynb 进行训练，支持 MNIST 和 SVHN 数据集（数据会自动下载）。

• 启动方式：

  jupyter notebook WGAN.ipynb
  

• 操作步骤：
  1. 打开 Notebook 后，找到第二个单元格 (Cell)。
  2. 设置您想要的参数（如迭代次数、批大小等）。
  3. 选择目标数据集 (mnist 或 svhn)。
  4. 运行单元格开始训练。
• 可视化：训练过程中可使用 TensorBoard 查看损失曲线和生成效果。

2. 图像生成 (Generation)

使用 generate_from_ckpt.ipynb 从检查点生成图像。

• 启动方式：

  jupyter notebook generate_from_ckpt.ipynb
  

• 操作步骤：
  1. 打开 Notebook，定位到第二个单元格。
  2. 设置 ckpt_dir 变量，指向训练保存的检查点目录。
  3. 重要：确保将数据集类型设置为与训练时一致。
  4. 运行单元格即可生成图像。

配置提示

• GPU 设置：代码默认在 gpu:0 上运行。如需更改设备，请在代码中搜索 tf.device 并修改相应配置。
• 参数说明：默认参数已参照原论文设置。其中 Diters 表示每一步中判别器（Critic）的更新次数，默认逻辑借鉴了原始 PyTorch 实现（初始阶段及每 500 步增加更新频率），通常无需调整。