使用猫咪进行深度学习

这个仓库是一个“玩具”项目，旨在让我积累构建深度神经网络的经验。我的第一个目标是使用生成对抗网络（GAN）生成猫的图片。第二个目标则是通过深度卷积神经网络将猫的图片转换为艺术作品。（^._.^）

更新（2019年3月2日）：这里包含了更近的新版本代码，功能更加丰富：https://github.com/AlexiaJM/relativistic-f-divergences

更新（2018年11月2日）：请参阅 https://github.com/AlexiaJM/RelativisticGAN，其中包含了一个大幅增强的 GAN 代码版本，所有损失函数都被整合到一个文件中。它还加入了更多优秀的相对论性损失函数以及许多额外的功能（例如：谱归一化、Hinge 损失、适用于任何 GAN 损失的梯度惩罚、每隔 X 次迭代生成图片、学习率衰减等）。默认情况下它仍然可以用来生成猫的图片，但也可以处理 CIFAR-10 数据集。

目标

• 使用各种类型的生成对抗网络（GAN）生成猫的图片
  • 使用 DCGAN（已完成）
  • 使用 WGAN（已完成）
  • 使用 WGAN-GP（已完成）
  • 使用 LSGAN（已完成）
  • 使用 BEGAN
• 将真实的猫图片转化为艺术作品
  • 使用 CycleGAN
  • 使用 快速神经风格迁移（已完成）
• 其他/杂项
  • 尝试按照 https://arxiv.org/pdf/1706.08500.pdf 的方法加入弗雷歇起始距离（FID）
  • 尝试按照 https://github.com/soumith/ganhacks 的方法使用软标签和噪声标签
  • 尝试按照 https://github.com/soumith/ganhacks 的方法在输入中加入逐渐衰减的噪声

所需工具

• Python 3.6、PyTorch、TensorFlow（用于 TensorBoard）
• 猫咪数据集（https://web.archive.org/web/20150703060412/http://137.189.35.203/WebUI/CatDatabase/catData.html 或 http://academictorrents.com/details/c501571c29d16d7f41d159d699d0e7fb37092cbd）
• TensorBoard 日志记录器（https://github.com/TeamHG-Memex/tensorboard_logger）

运行步骤

$ # 下载数据集并预处理猫的图片 
$ # 创建两个文件夹，一个用于大于 64x64 的猫图片，另一个用于大于 128x128 的猫图片
$ sh setting_up_script.sh
$ # 移动到你喜欢的地方
$ mv cats_bigger_than_64x64 "your_input_folder_64x64"
$ mv cats_bigger_than_128x128 "your_input_folder_128x128"
$ # 使用 DCGAN 生成 64x64 的猫图片
$ python DCGAN.py --input_folder "your_input_folder_64x64" --output_folder "your_output_folder"
$ # 使用 DCGAN 生成 128x128 的猫图片
$ python DCGAN.py --input_folder="your_input_folder_128x128" --image_size 128 --G_h_size 64 --D_h_size 64 --SELU True
$ # 使用 WGAN 生成 64x64 的猫图片
$ python WGAN.py --input_folder "your_input_folder_64x64" --output_folder "your_output_folder"
$ # 使用 WGAN-GP 生成 64x64 的猫图片
$ python WGAN-GP.py --input_folder "your_input_folder_64x64" --output_folder "your_output_folder" --SELU True
$ # 使用 LSGAN（最小二乘 GAN）生成 64x64 的猫图片
$ python LSGAN.py --input_folder "your_input_folder_64x64" --output_folder "your_output_folder"

查看 TensorBoard 中的损失曲线

$ tensorboard --logdir "your_input_folder"

结果

结果讨论见 https://ajolicoeur.wordpress.com/cats。

DCGAN 64x64

DCGAN 128x128 使用 SELU

WGAN 64x64

WGAN-GP 64x64 使用 SELU

快速风格迁移

Deep-learning-with-cats 快速上手指南

本项目是一个用于学习深度神经网络的趣味项目，主要功能是利用生成对抗网络（GAN）生成猫咪图片，以及使用风格迁移技术将猫咪图片转化为艺术作品。

环境准备

在开始之前，请确保您的系统满足以下要求：

• 操作系统: Linux / macOS / Windows (需配置相应环境)
• Python 版本: Python 3.6+
• 核心框架: PyTorch, TensorFlow (仅用于 TensorBoard 可视化)
• 依赖库:
  • tensorboard_logger (用于记录训练日志)

国内加速建议： 安装 Python 依赖时，推荐使用清华或阿里镜像源以加快下载速度：

pip install torch torchvision tensorboard_logger -i https://pypi.tuna.tsinghua.edu.cn/simple

安装步骤

1. 获取代码

克隆仓库到本地：

git clone https://github.com/AlexiaJM/Deep-learning-with-cats.git
cd Deep-learning-with-cats

2. 准备数据集

本项目需要猫咪数据集。您可以从以下地址下载（若原链接失效，可在 Kaggle 或国内数据平台搜索 "Cat Dataset"）：

• 原始链接: http://academictorrents.com/details/c501571c29d16d7f41d159d699d0e7fb37092cbd
• 存档链接: https://web.archive.org/web/20150703060412/http://137.189.35.203/WebUI/CatDatabase/catData.html

下载后，运行项目自带的脚本进行预处理，该脚本会自动创建两个文件夹，分别存放分辨率大于 64x64 和 128x128 的图片：

sh setting_up_script.sh

3. 配置输入路径

将预处理生成的文件夹移动或重命名为您喜欢的路径（以下示例假设重命名为 your_input_folder_64x64 和 your_input_folder_128x128）：

mv cats_bigger_than_64x64 "your_input_folder_64x64"
mv cats_bigger_than_128x128 "your_input_folder_128x128"

基本使用

以下是生成猫咪图片的最简命令示例。请根据您的数据集路径替换 "your_input_folder_..." 和输出路径 "your_output_folder"。

生成 64x64 猫咪图片 (DCGAN)

最基础的用法，使用 DCGAN 模型：

python DCGAN.py --input_folder "your_input_folder_64x64" --output_folder "your_output_folder"

生成 128x128 猫咪图片 (DCGAN + SELU)

生成更高分辨率图片，并启用 SELU 激活函数：

python DCGAN.py --input_folder="your_input_folder_128x128" --image_size 128 --G_h_size 64 --D_h_size 64 --SELU True

尝试其他 GAN 模型

项目支持多种 GAN 变体，只需更换脚本文件即可：

• WGAN:

  python WGAN.py --input_folder "your_input_folder_64x64" --output_folder "your_output_folder"
  

• WGAN-GP:

  python WGAN-GP.py --input_folder "your_input_folder_64x64" --output_folder "your_output_folder" --SELU True
  

• LSGAN (Least Squares GAN):

  python LSGAN.py --input_folder "your_input_folder_64x64" --output_folder "your_output_folder"
  

查看训练过程 (TensorBoard)

训练开始后，您可以在另一个终端窗口运行以下命令，通过浏览器实时查看损失函数曲线和生成效果：

tensorboard --logdir "your_input_folder"

(注：请将 logdir 指向实际记录日志的文件夹路径)