本项目将《动手学深度学习》 原书中MXNet代码实现改为PyTorch实现。原书作者：阿斯顿·张、李沐、扎卡里 C. 立顿、亚历山大 J. 斯莫拉以及其他社区贡献者，GitHub地址：https://github.com/d2l-ai/d2l-zh

此书的中英版本存在一些不同，针对此书英文版的PyTorch重构可参考这个项目。 这本书的中文版和英文版之间存在一些差异。若需对英文版进行PyTorch重构，可参考该项目。

简介

本仓库主要包含code和docs两个文件夹（外加一些数据存放在data中）。其中code文件夹就是每章相关jupyter notebook代码（基于PyTorch）；docs文件夹就是markdown格式的《动手学深度学习》书中的相关内容，然后利用docsify将网页文档部署到GitHub Pages上，由于原书使用的是MXNet框架，所以docs内容可能与原书略有不同，但是整体内容是一样的。欢迎对本项目做出贡献或提出issue。

面向人群

本项目面向对深度学习感兴趣，尤其是想使用PyTorch进行深度学习的童鞋。本项目并不要求你有任何深度学习或者机器学习的背景知识，你只需了解基础的数学和编程，如基础的线性代数、微分和概率，以及基础的Python编程。

食用方法

方法一

本仓库包含一些latex公式，但github的markdown原生是不支持公式显示的，而docs文件夹已经利用docsify被部署到了GitHub Pages上，所以查看文档最简便的方法就是直接访问本项目网页版。当然如果你还想跑一下运行相关代码的话还是得把本项目clone下来，然后运行code文件夹下相关代码。

方法二

你还可以在本地访问文档，先安装docsify-cli工具:

npm i docsify-cli -g

然后将本项目clone到本地:

git clone https://github.com/ShusenTang/Dive-into-DL-PyTorch.git
cd Dive-into-DL-PyTorch

然后运行一个本地服务器，这样就可以很方便的在http://localhost:3000实时访问文档网页渲染效果。

docsify serve docs

方法三

如果你不想安装docsify-cli工具，甚至你的电脑上都没有安装Node.js，而出于某些原因你又想在本地浏览文档，那么你可以在docker容器中运行网页服务。

首先将本项目clone到本地:

git clone https://github.com/ShusenTang/Dive-into-DL-PyTorch.git
cd Dive-into-DL-PyTorch

之后使用如下命令创建一个名称为「d2dl」的docker镜像：

docker build -t d2dl .

镜像创建好后，运行如下命令创建一个新的容器：

docker run -dp 3000:3000 d2dl

最后在浏览器中打开这个地址http://localhost:3000/#/，就能愉快地访问文档了。适合那些不想在电脑上装太多工具的小伙伴。

目录

• 简介
• 阅读指南
• 1. 深度学习简介
• 2. 预备知识
  • 2.1 环境配置
  • 2.2 数据操作
  • 2.3 自动求梯度
• 3. 深度学习基础
  • 3.1 线性回归
  • 3.2 线性回归的从零开始实现
  • 3.3 线性回归的简洁实现
  • 3.4 softmax回归
  • 3.5 图像分类数据集（Fashion-MNIST）
  • 3.6 softmax回归的从零开始实现
  • 3.7 softmax回归的简洁实现
  • 3.8 多层感知机
  • 3.9 多层感知机的从零开始实现
  • 3.10 多层感知机的简洁实现
  • 3.11 模型选择、欠拟合和过拟合
  • 3.12 权重衰减
  • 3.13 丢弃法
  • 3.14 正向传播、反向传播和计算图
  • 3.15 数值稳定性和模型初始化
  • 3.16 实战Kaggle比赛：房价预测
• 4. 深度学习计算
  • 4.1 模型构造
  • 4.2 模型参数的访问、初始化和共享
  • 4.3 模型参数的延后初始化
  • 4.4 自定义层
  • 4.5 读取和存储
  • 4.6 GPU计算
• 5. 卷积神经网络
  • 5.1 二维卷积层
  • 5.2 填充和步幅
  • 5.3 多输入通道和多输出通道
  • 5.4 池化层
  • 5.5 卷积神经网络（LeNet）
  • 5.6 深度卷积神经网络（AlexNet）
  • 5.7 使用重复元素的网络（VGG）
  • 5.8 网络中的网络（NiN）
  • 5.9 含并行连结的网络（GoogLeNet）
  • 5.10 批量归一化
  • 5.11 残差网络（ResNet）
  • 5.12 稠密连接网络（DenseNet）
• 6. 循环神经网络
  • 6.1 语言模型
  • 6.2 循环神经网络
  • 6.3 语言模型数据集（周杰伦专辑歌词）
  • 6.4 循环神经网络的从零开始实现
  • 6.5 循环神经网络的简洁实现
  • 6.6 通过时间反向传播
  • 6.7 门控循环单元（GRU）
  • 6.8 长短期记忆（LSTM）
  • 6.9 深度循环神经网络
  • 6.10 双向循环神经网络
• 7. 优化算法
  • 7.1 优化与深度学习
  • 7.2 梯度下降和随机梯度下降
  • 7.3 小批量随机梯度下降
  • 7.4 动量法
  • 7.5 AdaGrad算法
  • 7.6 RMSProp算法
  • 7.7 AdaDelta算法
  • 7.8 Adam算法
• 8. 计算性能
  • 8.1 命令式和符号式混合编程
  • 8.2 异步计算
  • 8.3 自动并行计算
  • 8.4 多GPU计算
• 9. 计算机视觉
  • 9.1 图像增广
  • 9.2 微调
  • 9.3 目标检测和边界框
  • 9.4 锚框
  • 9.5 多尺度目标检测
  • 9.6 目标检测数据集（皮卡丘）
  • 9.7 单发多框检测（SSD）
  • 9.8 区域卷积神经网络（R-CNN）系列
  • 9.9 语义分割和数据集
  • 9.10 全卷积网络（FCN）
  • 9.11 样式迁移
  • 9.12 实战Kaggle比赛：图像分类（CIFAR-10）
  • 9.13 实战Kaggle比赛：狗的品种识别（ImageNet Dogs）
• 10. 自然语言处理
  • 10.1 词嵌入（word2vec）
  • 10.2 近似训练
  • 10.3 word2vec的实现
  • 10.4 子词嵌入（fastText）
  • 10.5 全局向量的词嵌入（GloVe）
  • 10.6 求近义词和类比词
  • 10.7 文本情感分类：使用循环神经网络
  • 10.8 文本情感分类：使用卷积神经网络（textCNN）
  • 10.9 编码器—解码器（seq2seq）
  • 10.10 束搜索
  • 10.11 注意力机制
  • 10.12 机器翻译

持续更新中......

原书地址

中文版：动手学深度学习 | Github仓库
English Version: Dive into Deep Learning | Github Repo

引用

如果您在研究中使用了这个项目请引用原书:

@book{zhang2019dive,
    title={Dive into Deep Learning},
    author={Aston Zhang and Zachary C. Lipton and Mu Li and Alexander J. Smola},
    note={\url{http://www.d2l.ai}},
    year={2020}
}

Dive-into-DL-PyTorch 快速上手指南

本指南基于《动手学深度学习》原书内容，将其中的 MXNet 代码重构为 PyTorch 实现，旨在帮助开发者使用 PyTorch 框架学习深度学习。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux, macOS 或 Windows
• Python：建议版本 3.6+
• 核心依赖：
  • PyTorch (深度学习框架)
  • Jupyter Notebook (用于运行代码示例)
  • NumPy, Matplotlib 等科学计算库
• 文档查看工具（可选）：
  • Node.js 和 npm (用于本地部署文档)
  • 或者 Docker (用于容器化部署文档)

提示：如果您尚未安装 PyTorch，请访问 PyTorch 官网 获取适合您环境的安装命令。国内用户可使用清华源加速安装：

pip install torch torchvision torchaudio -i https://pypi.tuna.tsinghua.edu.cn/simple

安装步骤

1. 获取项目代码

使用 Git 将项目克隆到本地：

git clone https://github.com/ShusenTang/Dive-into-DL-PyTorch.git
cd Dive-into-DL-PyTorch

2. 安装 Python 依赖

在项目根目录下，安装运行代码所需的 Python 包（建议创建虚拟环境）：

pip install -r requirements.txt

(注：若项目中无 requirements.txt 文件，请手动安装 jupyter, numpy, matplotlib, torch 等基础库)

3. 配置文档查看环境（任选其一）

如果您希望在本地浏览完整的教程文档，可选择以下一种方式：

方式 A：使用 docsify-cli (需 Node.js)

npm i docsify-cli -g
docsify serve docs

启动后访问 http://localhost:3000 即可。

方式 B：使用 Docker (无需安装 Node.js)

docker build -t d2dl .
docker run -dp 3000:3000 d2dl

启动后访问 http://localhost:3000/#/ 即可。

简便替代方案：若不想配置本地文档环境，可直接访问项目在线网页版：https://tangshusen.me/Dive-into-DL-PyTorch

基本使用

本项目主要由 code (代码) 和 docs (文档) 两部分组成。

运行代码示例

所有章节的代码均位于 code 文件夹下的 Jupyter Notebook 文件中。

1. 启动 Jupyter Notebook：

   jupyter notebook
   

2. 在浏览器打开的界面中，进入 code 目录。
3. 选择对应的章节笔记进行学习和运行。例如，学习线性回归可打开：
   • chapter03_DL-basics/3.2_linear-regression-scratch.ipynb (从零实现)
   • chapter03_DL-basics/3.3_linear-regression-pytorch.ipynb (简洁实现)

学习路径建议

1. 预备知识：先阅读第 2 章，熟悉 PyTorch 的 Tensor 操作和自动求导机制。
2. 基础理论：按顺序学习第 3 章（深度学习基础），涵盖回归、分类及多层感知机。
3. 进阶模型：依次学习卷积神经网络 (CNN)、循环神经网络 (RNN) 及优化算法。
4. 实战应用：参考第 9 章和第 10 章进行计算机视觉和自然语言处理的实战练习。

您可以结合在线文档阅读理论，同时在本地 Notebook 中修改并运行代码以加深理解。