《深度生成建模》

这本关于生成式人工智能背后模型的第一本综合性著作经过全面修订，涵盖了所有主要类型的深度生成模型：混合模型、概率电路、自回归模型、基于流的模型、潜在变量模型、GAN、混合模型、基于分数的生成模型、基于能量的模型以及大型语言模型。此外，书中还讨论了生成式人工智能系统，展示了如何将深度生成模型应用于神经网络压缩等领域。

《深度生成建模》旨在吸引具有本科微积分、线性代数、概率论以及机器学习、深度学习和Python及PyTorch（或其他深度学习框架）编程基础的求知欲强的学生、工程师和研究人员。它将受到来自计算机科学、工程学、数据科学、物理学和生物信息学等多个领域的学生和研究人员的关注，他们希望熟悉深度生成建模技术。为了更好地与读者互动，本书通过具体的示例和代码片段来介绍基本概念。

本书的目标是概述深度生成建模领域中最重要的技术，并最终使读者能够提出新的模型并加以实现。

目录

前部
序言 由 马克斯·韦林教授 撰写
前言

1. 为什么需要深度生成建模？
2. 概率建模：从混合模型到概率电路
3. 自回归模型
4. 基于流的模型
5. 潜在变量模型
6. 混合建模
7. 基于能量的模型
8. 生成对抗网络
9. 基于分数的生成模型
10. 用于神经网络压缩的深度生成建模
11. 从大型语言模型到生成式人工智能系统

附录
A. 代数和微积分中的有用事实
B. 概率论和统计学中的有用事实

在哪里可以购买这本书？

Springer 亚马逊

深度生成模型入门示例

这些示例可能看起来过于简单，但这正是其目的！我的想法是让每个人都能理解每一行代码，并且几乎在任何笔记本电脑或台式机上都能在几分钟内运行这些实验。我的目标是鼓励初学者理解和尝试深度生成模型。而对于更高级的用户来说，这些示例也可以帮助他们复习知识，或者在此基础上快速验证自己的想法。无论哪种情况，我都希望这些代码能帮助大家踏上深度生成建模这一迷人旅程！

环境要求

在所有示例中，我们使用了：

• pytorch 1.7.0
• numpy 1.17.2
• matplotlib 3.1.1
• scikit-learn 0.21.3
• pytorch-model-summary 0.1.1
• jupyter 1.0.0

示例

所有实现的深度生成模型示例都以Jupyter Notebook的形式提供。它们可以在以下文件夹中找到：

1. mog：一个等概率成分或可训练成分概率的高斯混合模型示例。
2. arms：一个包含一维因果卷积层和Transformer的自回归模型示例。
3. flows：一个基于流的模型示例，即带有耦合层和置换层的RealNVP，以及IDF（整数离散流）。
4. vaes：(i) 使用全连接层和标准高斯先验的变分自编码器示例；(ii) 各种VAE先验的示例；(iii) 分层VAE的示例。
5. ddgms：一个基于扩散的深度生成模型示例，采用固定方差的高斯正向扩散和由MLP参数化的逆向扩散。
6. sbgms：(i) 使用分数匹配方法和基于MLP的分数模型的分数示例；(ii) 基于SDE的扩散模型示例，该模型由MLP参数化；(iii) 条件流匹配模型示例，同样由MLP参数化。
7. hybrid_modeling：一个使用全连接层和IDF的混合模型示例。
8. ebms：一个由MLP参数化的基于能量的模型示例。
9. gans：一个由MLP参数化的GAN示例。
10. neural_compression：一个将深度生成建模应用于图像神经网络压缩的示例。
11. llms：一个基于解码器的Transformer示例（LLM；在这里我们称之为teenyGPT）。

教学资源

为教学之用，请参阅以下材料：

1. assignments_examples：三个作业示例：(i) 针对ARMS；(ii) 针对VAEs；(iii) 团队作业；
2. figures：供所有教师参考，如果您需要准备课程，这里有一些有用的图表可供使用。

请务必注明本书为引用来源。谢谢！

引用

如果您以任何方式使用此代码，请通过引用我的著作《深度生成建模》来进行引用：

• APA格式：

Tomczak, J. M. (2024). Deep Generative Modeling. Springer Cham

• Bibtex：

@book{tomczak2024deep,
  title={Deep Generative Modeling},
  author={Tomczak, Jakub M},
  publisher={Springer Cham},
  year={2024}
}

intro_dgm 快速上手指南

intro_dgm 是书籍《Deep Generative Modeling》的配套开源代码库，提供了深度生成模型（如 VAE、GAN、Diffusion、Flow、LLM 等）的极简实现示例。所有示例均以 Jupyter Notebook 形式提供，代码简洁易懂，适合初学者快速理解原理或研究者验证想法。

环境准备

本项目基于 Python 开发，建议在 Linux、macOS 或 Windows 环境下运行。确保已安装以下基础软件：

• Python 3.6+
• pip 或 conda 包管理器
• Jupyter Notebook

前置依赖

根据官方要求，核心依赖版本如下（兼容更高版本）：

• pytorch >= 1.7.0
• numpy >= 1.17.2
• matplotlib >= 3.1.1
• scikit-learn >= 0.21.3
• pytorch-model-summary >= 0.1.1
• jupyter >= 1.0.0

国内加速建议：推荐使用清华源或阿里源加速 Python 包安装，使用 PyTorch 国内镜像加速框架下载。

安装步骤

1. 克隆项目

git clone https://github.com/jmtomczak/intro_dgm.git
cd intro_dgm

2. 创建虚拟环境（推荐）

python -m venv dgm_env
source dgm_env/bin/activate  # Windows 用户请使用: dgm_env\Scripts\activate

3. 安装依赖

使用国内镜像源加速安装：

pip install torch numpy matplotlib scikit-learn pytorch-model-summary jupyter -i https://pypi.tuna.tsinghua.edu.cn/simple

若需指定 PyTorch 版本以匹配 CUDA 环境，请访问 PyTorch 官网 获取对应命令，或使用国内镜像：

# 示例：安装 CPU 版本 PyTorch (使用清华源)
pip install torch==1.7.0+cpu torchvision==0.8.0+cpu -f https://download.pytorch.org/whl/torch_stable.html -i https://pypi.tuna.tsinghua.edu.cn/simple

基本使用

项目包含多个子文件夹，每个文件夹对应一种生成模型类型的示例。所有示例均为 .ipynb 文件，可直接在 Jupyter 中运行。

启动 Jupyter Notebook

在项目根目录下执行：

jupyter notebook

浏览器将自动打开界面，导航至对应的模型文件夹即可。

最简单的使用示例：混合高斯模型 (MoG)

1. 进入 mog 目录。
2. 打开任意 .ipynb 文件（如 mog_example.ipynb）。
3. 依次运行单元格，即可看到混合高斯模型的训练过程及可视化结果。

其他模型示例路径

• 自回归模型 (ARMs): ./arms (含 1D 因果卷积与 Transformer 示例)
• 流模型 (Flows): ./flows (含 RealNVP, IDFs)
• 变分自编码器 (VAEs): ./vaes (含标准先验、层级 VAE 等)
• 扩散模型 (DDGMs/SBGMs): ./ddgms 或 ./sbgms (含 Score-based 与 SDE 示例)
• 生成对抗网络 (GANs): ./gans
• 大语言模型 (LLMs): ./llms (名为 teenyGPT 的 Decoder-only Transformer)
• 神经压缩: ./neural_compression

提示：代码设计初衷是“每一行都可追踪”，建议在阅读代码的同时对照书籍相关章节学习，以获得最佳效果。