TransGAN：两个纯Transformer就能组成一个强大的GAN，而且还能扩展

用于TransGAN：两个纯Transformer就能组成一个强大的GAN，而且还能扩展的代码。

实现

• 使用torch.utils.checkpoint进行梯度检查点
• 16位精度训练
• 分布式训练（更快！）
• IS/FID评估
• 梯度累积
• 更强的数据增强
• 自调节

使用指南

CIFAR训练脚本

python exp/cifar_train.py

我在训练过程中禁用了评估功能，因为它会导致奇怪的bug。请同时启动另一个评估任务，方法是将路径复制到测试脚本中。

CIFAR测试

首先下载CIFAR检查点，并将其放置在./cifar_checkpoint目录下。然后运行以下脚本：

python exp/cifar_test.py

主要流程

典型可视化结果

README等待更新

致谢

代码库来自AutoGAN和pytorch-image-models

引用

如果您觉得本仓库对您有帮助，请引用如下文献：

@article{jiang2021transgan,
  title={Transgan: Two pure transformers can make one strong gan, and that can scale up},
  author={Jiang, Yifan and Chang, Shiyu and Wang, Zhangyang},
  journal={Advances in Neural Information Processing Systems},
  volume={34},
  year={2021}
}

TransGAN 快速上手指南

环境准备

• 系统要求：Linux 操作系统，推荐配备 NVIDIA GPU（支持 CUDA）。
• 前置依赖：
  • Python 3.6+
  • PyTorch 1.7+
  • torchvision
  • 其他依赖库（如 timm, numpy 等）

提示：国内用户建议使用清华或阿里镜像源加速 PyTorch 及相关库的安装。

安装步骤

1. 克隆仓库：

   git clone https://github.com/VITA-Group/TransGAN.git
   cd TransGAN
   

2. 安装依赖（推荐使用国内镜像源）：

   pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118
   pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
   

   注：若项目中无 requirements.txt，请根据代码导入情况手动安装 timm 等必要库。

基本使用

1. 训练模型 (CIFAR-10)

运行以下命令开始训练。注意：默认配置已禁用训练过程中的评估以避免潜在 Bug。

python exp/cifar_train.py

2. 测试与评估

若需生成图像或计算 IS/FID 指标，请先下载预训练权重并执行测试脚本。

步骤 A：下载权重 下载 CIFAR 检查点，并将其放置于 ./cifar_checkpoint 目录下。

步骤 B：运行测试

python exp/cifar_test.py

注意：如需在训练同时进行评估，请复制上述测试脚本并在另一个终端独立运行，将路径指向当前的训练保存目录。