概述

PyTorch 0.4.1 | Python 3.6.5

提供了针对以下模型的注释实现及对比介绍：极大极小博弈、非饱和式、Wasserstein、带梯度惩罚的Wasserstein、最小二乘法、深度后悔分析、有界均衡、相对论式、f-散度、Fisher散度以及信息生成对抗网络（GAN），同时还包括标准变分、变分有界信息率自编码器（VAE）。

每个文件开头都附有论文链接及简要摘要。可在src文件夹中找到可通过终端运行的脚本，或在notebooks文件夹中通过本地浏览器查看Jupyter Notebook可视化内容。主要的代码改动可见于Trainer类中的train、train_D和train_G，不过改动并不局限于这些部分（例如，Wasserstein GAN会在train函数中对权重进行裁剪，BEGAN则从train_D中输出多个结果，而fGAN在viz_loss函数中稍作修改，以便在标题中注明所用方法）。

本仓库中的所有代码均以生成式、无监督的方式处理二值（黑白）MNIST数据集。其架构兼容多种数据类型（一维、二维以及方形三维图像）。绘图函数可支持二值与RGB图像。若检测到GPU，则模型会优先使用GPU；否则将默认使用CPU。VAE的训练器类包含用于可视化潜在空间表示的方法（参见make_all函数）。

使用方法

初始化环境：

python -m venv env  
. env/bin/activate  
pip install -r requirements.txt  

若需在Jupyter Notebook中进行实验：

jupyter notebook

若需通过终端运行：

cd src
python bir_vae.py

新模型

本仓库的主要目的之一是尽可能简化深度生成模型（即GAN/VAE）变体的实现。之所以能做到这一点，是因为通常情况下（但并非总是如此，如BIRVAE），提出的改进仅涉及反向传播时损失的计算方式。因此，核心训练类的设计使得大多数新模型的实现只需修改GAN训练器类中的train_D和train_G函数，以及VAE训练器类中的compute_batch函数即可。

假设我们有一个非饱和式GAN，并希望将其改造成最小二乘法GAN。为此，我们只需更改两行代码：

【原版】（NSGAN）

def train_D(self, images):
  ...
  D_loss = -torch.mean(torch.log(DX_score + 1e-8) + torch.log(1 - DG_score + 1e-8))

  return D_loss

def train_G(self, images):
  ...
  G_loss = -torch.mean(torch.log(DG_score + 1e-8))

  return G_loss

【新版】（LSGAN）

def train_D(self, images):
  ...
  D_loss = (0.50 * torch.mean((DX_score - 1.)**2)) + (0.50 * torch.mean((DG_score - 0.)**2))

  return D_loss

def train_G(self, images):
  ...
  G_loss = 0.50 * torch.mean((DG_score - 1.)**2)

  return G_loss

模型架构

本实现中，生成器（G）和判别器（D）均采用简单的两层前馈神经网络架构。虽然该架构对于MNIST数据集能够产生合理的结果，但在实际应用中，建议使用深层卷积架构（如DCGAN）以获得更高质量的输出。这可以通过修改GAN的生成器和判别器类，或VAE的编码器和解码器类来实现。

可视化

所有模型均训练了25个 epoch，隐藏层维度为400，潜在空间维度为20。其他实现细节尽可能与各自原始论文（已链接）保持一致。

模型	第1轮	第25轮	进度	损失
MMGAN
NSGAN
WGAN
WGPGAN
DRAGAN
BEGAN
LSGAN
RaNSGAN
FisherGAN
InfoGAN
f-TVGAN
f-PearsonGAN
f-JSGAN
f-ForwGAN
f-RevGAN
f-HellingerGAN
VAE
BIRVAE

待办事项

模型：CVAE、去噪 VAE、对抗自编码器 | 贝叶斯 GAN、自注意力 GAN、原对偶 Wasserstein GAN
架构：增加 DCGAN 选项
数据集：超越 MNIST

generative-models 快速上手指南

本仓库提供了多种生成对抗网络（GAN）和变分自编码器（VAE）变体的注释实现，包括 Minimax、Wasserstein、Least Squares、InfoGAN 等。代码基于 PyTorch，默认在二值化 MNIST 数据集上以无监督方式运行。

环境准备

• 操作系统: Linux / macOS / Windows
• Python 版本: 推荐 Python 3.6.5 或更高版本
• 核心依赖: PyTorch 0.4.1 或更高版本
• 硬件要求: 支持 CPU 运行；若检测到 GPU (CUDA)，将自动使用 GPU 加速。

安装步骤

1. 创建虚拟环境 在项目根目录下执行以下命令创建隔离环境：

   python -m venv env
   

2. 激活环境

   • Linux/macOS:

     . env/bin/activate
     

   • Windows:

     env\Scripts\activate
     

3. 安装依赖 安装项目所需的 Python 包。

   提示：国内用户建议使用清华或阿里镜像源加速安装。

   pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
   

基本使用

方式一：终端直接运行（推荐）

这是最简单的运行方式，直接在命令行启动训练脚本。以下以运行边界信息率变分自编码器（BIR-VAE）为例：

cd src
python bir_vae.py

• 程序会自动加载二值化 MNIST 数据集。
• 若本地有 GPU，模型将自动使用 GPU 训练，否则回退至 CPU。
• 训练过程及结果可视化将在运行时生成。

方式二：Jupyter Notebook 交互探索

如果你希望通过 Notebook 查看可视化结果或逐步调试：

1. 确保已激活虚拟环境。
2. 启动 Jupyter 服务：

   jupyter notebook
   

3. 在浏览器中打开 notebooks 文件夹下的对应文件进行实验。

自定义模型架构

默认实现使用了简单的两层前馈网络以适应 MNIST。若需获得更高质量的图像生成效果（如处理 RGB 图片），建议修改 src 目录下的代码：

• GAN 模型: 编辑 Generator 和 Discriminator 类，替换为深度卷积架构（如 DCGAN）。
• VAE 模型: 编辑 Encoder 和 Decoder 类。

大多数新模型的实现只需修改 Trainer 类中的损失计算函数（如 train_D, train_G 或 compute_batch），无需重构整个训练流程。