深度学习图解（2020）

本仓库包含了与乔恩·克罗恩、格兰特·贝耶尔韦尔德和阿格莱·巴森斯合著的书籍《深度学习图解》配套的代码。这本以视觉化、交互式方式介绍人工神经网络的指南由培生旗下的艾迪生-韦斯利出版社出版。

安装

运行本仓库中代码的分步指南可在安装目录中找到。如在安装过程中遇到困难，请先访问我们书籍的问答论坛，而非创建 Issue。

笔记本

书中涵盖的所有代码均以Jupyter笔记本的形式存放在笔记本目录中。

以下是本书的目录结构，并附有所有单个笔记本的链接。

请注意，虽然TensorFlow 2.0是在本书付印之后发布的，但正如第14章（特别是示例14.1）所详述的那样，我们的所有笔记本都可以轻松转换为TensorFlow 2.x代码。如果不想进行转换，当前仓库中的笔记本在TensorFlow 2.x下的等效版本可在此处找到：这里。

第一部分：深度学习导论

第1章：生物视觉与机器视觉

• 生物视觉
• 机器视觉
  • 新皮质认知机
  • LeNet-5
  • 传统机器学习方法
  • ImageNet与ILSVRC
  • AlexNet
• TensorFlow PlayGround
• “Quick, Draw!” 游戏

第2章：人类语言与机器语言

• 用于自然语言处理的深度学习
  • 深度学习网络能够自动学习表示
  • 自然语言处理领域深度学习的发展简史
• 语言的计算表示
  • 单热编码
  • 词向量
  • 词向量运算
  • word2viz
  • 局部主义与分布式表示
• 自然人类语言的要素
• Google Duplex

第3章：机器艺术

• 通宵不眠的创作
• 对虚假人脸图像的算术操作
• 风格迁移：将照片转化为莫奈风格（反之亦然）
• 让你的草图逼真如照片
• 从文本生成逼真图像
• 基于深度学习的图像处理

第4章：游戏智能体

• 大型语言模型、人工智能及其他相关概念
  • 人工智能
  • 机器学习
  • 表征学习
  • 人工神经网络
• 机器学习问题的三大类别
  • 监督学习
  • 无监督学习
  • 强化学习
• 深度强化学习
• 视频游戏
• 棋类游戏
  • AlphaGo
  • AlphaGo Zero
  • AlphaZero
• 物体操控
• 常用的强化学习环境
  • OpenAI Gym
  • DeepMind Lab
  • Unity ML-Agents
• 人工智能的三大类别
  • 弱人工智能
  • 强人工智能
  • 超级人工智能

第二部分：基础理论详解

第5章：先有代码，后有理论

• 先决条件
• 安装
• Keras中的浅层神经网络（shallow_net_in_keras.ipynb）
  • MNIST手写数字数据集（mnist_digit_pixel_by_pixel.ipynb）
  • 网络结构示意图
  • 数据加载
  • 数据格式转换
  • 神经网络架构设计
  • 深度学习模型训练

第6章：检测热狗的人工神经元

• 生物神经解剖学入门
• 感知器
  • 热狗/非热狗检测器
  • 书中最重要的公式
• 现代神经元与激活函数
  • Sigmoid神经元（sigmoid_function.ipynb）
  • Tanh神经元
  • ReLU：修正线性单元
• 神经元的选择

第7章：人工神经网络

• 输入层
• 密集层
• 一个检测热狗的密集网络
  • 前向传播至第一隐藏层
  • 后续各层的前向传播
• 快餐分类网络的Softmax层（softmax_demo.ipynb）
• 回顾我们的浅层神经网络

第8章：深度网络的训练

• 损失函数
  • 均方误差损失（quadratic_cost.ipynb）
  • 饱和神经元
  • 交叉熵损失（cross_entropy_cost.ipynb）
• 优化：学习如何最小化损失
  • 梯度下降
  • 学习率（measuring_speed_of_learning.ipynb）
  • 批量大小与随机梯度下降
  • 如何跳出局部最小值
• 反向传播
• 调整隐藏层数量和神经元数量
• Keras中的中间网络（intermediate_net_in_keras.ipynb）

第9章：提升深度网络性能

• 权重初始化（weight_initialization.ipynb）
  • Xavier Glorot分布
• 不稳定的梯度
  • 梯度消失
  • 梯度爆炸
  • 批量归一化
• 模型泛化——避免过拟合
  • L1和L2正则化
  • Dropout
  • 数据增强
• 高级优化算法
  • 动量
  • Nesterov动量
  • AdaGrad
  • AdaDelta与RMSProp
  • Adam
• Keras中的深层神经网络（deep_net_in_keras.ipynb）
• 回归任务（regression_in_keras.ipynb）
• TensorBoard（deep_net_in_keras_with_tensorboard.ipynb）

第三部分：深度学习的交互式应用

第10章：机器视觉

• 卷积神经网络
  • 视觉图像的二维结构
  • 计算复杂度
  • 卷积层
  • 多个滤波器
  • 一个卷积示例
  • 卷积滤波器的超参数
  • 步长
  • 填充
• 池化层
• LeNet-5 在 Keras 中的实现（lenet_in_keras.ipynb）
• AlexNet（alexnet_in_keras.ipynb）和 VGGNet（vggnet_in_keras.ipynb）
• 残差网络
  • 梯度消失：深度 CNN 的致命弱点
  • 残差连接
• 机器视觉的应用
  • 目标检测
  • 图像分割
  • 迁移学习（transfer_learning_in_keras.ipynb）
  • 胶囊网络

第11章：自然语言处理

• 自然语言数据的预处理（natural_language_preprocessing.ipynb）
  • 分词
  • 将所有字符转换为小写
  • 去除停用词和标点符号
  • 词干提取；处理 n-元组
  • 对整个语料库进行预处理
• 使用 word2vec 创建词嵌入
  • word2vec 的核心理论
  • 评估词向量
  • 运行 word2vec
  • 绘制词向量
• ROC 曲线下的面积
  • 混淆矩阵
  • 计算 ROC AUC 指标
• 使用常见网络进行自然语言分类
  • 加载 IMDB 电影评论
  • 查看 IMDB 数据
  • 标准化评论长度
  • 密集网络（dense_sentiment_classifier.ipynb）
  • 卷积网络（convolutional_sentiment_classifier.ipynb）
• 针对序列数据设计的网络
  • 循环神经网络（rnn_sentiment_classifier.ipynb）
  • 长短期记忆单元（lstm_sentiment_classifier.ipynb）
  • 双向 LSTM（bi_lstm_sentiment_classifier.ipynb）
  • 堆叠式循环模型（stacked_bi_lstm_sentiment_classifier.ipynb）
  • Seq2seq 和注意力机制
  • NLP 中的迁移学习
• 非序列架构：Keras 函数式 API（multi_convnet_sentiment_classifier.ipynb）

第12章：生成对抗网络

• GAN 的基本理论
• Quick, Draw! 数据集
• 判别器网络
• 生成器网络
• 对抗网络
• GAN 训练（generative_adversarial_network.ipynb）

第13章：深度强化学习

• 强化学习的基本理论
  • 小车摆游戏
  • 马尔可夫决策过程
  • 最优策略
• 深度 Q 学习网络的基本理论
  • 值函数
  • Q 值函数
  • 估计最优 Q 值
• 定义 DQN 智能体（cartpole_dqn.ipynb）
  • 初始化参数
  • 构建智能体的神经网络模型
  • 记录游戏过程
  • 通过经验回放进行训练
  • 选择要采取的动作
  • 保存和加载模型参数
• 与 OpenAI Gym 环境交互
• 使用 SLM Lab 进行超参数优化
• DQN 之外的智能体
  • 策略梯度和 REINFORCE 算法
  • 演员-评论家算法

第四部分：你与人工智能

第14章：开展你自己的深度学习项目

• 深度学习项目的创意
  • 机器视觉和 GAN（fashion_mnist_pixel_by_pixel.ipynb）
  • 自然语言处理
  • 深度强化学习
  • 将现有机器学习项目转化为深度学习项目
• 进一步开展项目的资源
  • 具有社会公益性的项目
• 建模过程，包括超参数调优
  • 超参数搜索自动化
• 深度学习框架
  • Keras 和 TensorFlow（deep_net_in_tensorflow.ipynb）
  • PyTorch（pytorch.ipynb）
  • MXNet、CNTK、Caffe 等
• 软件 2.0
• 向通用人工智能迈进

书籍封面

Deep Learning Illustrated 快速上手指南

本指南基于《Deep Learning Illustrated》配套代码库，帮助开发者快速搭建环境并运行书中的交互式 Jupyter Notebook 示例。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Windows、macOS 或 Linux。
• Python 版本：推荐 Python 3.6 - 3.8（书中代码主要基于此范围，高版本可能需微调）。
• 核心依赖：
  • Jupyter Notebook：用于运行交互式代码。
  • TensorFlow / Keras：本书主要使用 Keras API（早期版本基于 TF 1.x，但笔记可轻松迁移至 TF 2.x）。
  • 其他常用库：numpy, matplotlib, pandas, scikit-learn 等。
• 硬件建议：部分章节（如 GANs、深度强化学习）涉及大量计算，建议使用配备 NVIDIA GPU 的机器并安装 CUDA 工具包以加速训练。

注意：虽然本书出版时 TensorFlow 2.0 刚发布，但仓库中的笔记主要基于 TF 1.x 风格。若需在 TF 2.x 环境下运行，可参考官方提供的 TF 2.x 适配版本，或在代码开头添加兼容性设置。

安装步骤

1. 克隆项目仓库

打开终端（Terminal 或 CMD），执行以下命令下载源代码：

git clone https://github.com/the-deep-learners/deep-learning-illustrated.git
cd deep-learning-illustrated

国内加速提示：如果访问 GitHub 速度较慢，可使用国内镜像源（如 Gitee 镜像，若有）或通过代理加速克隆过程。

2. 创建虚拟环境（推荐）

为避免依赖冲突，建议使用 conda 或 venv 创建独立环境。

使用 Conda:

conda create -n dli_env python=3.7
conda activate dli_env

使用 venv:

python -m venv dli_env
# Windows:
dli_env\Scripts\activate
# macOS/Linux:
source dli_env/bin/activate

3. 安装依赖库

进入项目根目录后，检查是否有 requirements.txt 文件。若无，可根据书中内容手动安装核心库。推荐使用国内镜像源加速安装：

# 使用清华源安装核心依赖
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple jupyter tensorflow==1.15.0 keras matplotlib numpy pandas scikit-learn opencv-python

注：若直接使用 TensorFlow 2.x，请安装 tensorflow>=2.0，并在运行旧版笔记时注意 API 差异。

4. 验证安装

启动 Jupyter Notebook 以确认环境正常：

jupyter notebook

浏览器将自动打开，导航至 notebooks 目录即可看到所有章节的代码文件。

基本使用

本书的核心内容是位于 notebooks 目录下的 Jupyter Notebook 文件。每个笔记本对应书中的一个概念或案例。

最简单的使用示例：运行浅层神经网络

我们将运行第 5 章中的经典示例——在 Keras 中构建一个浅层神经网络来识别 MNIST 手写数字。

1. 定位文件： 在 Jupyter 界面中，进入 notebooks 文件夹，找到并点击打开 shallow_net_in_keras.ipynb。 (或者直接访问：notebooks/shallow_net_in_keras.ipynb)

2. 执行代码： 按顺序点击单元格左侧的“运行”按钮（或按下 Shift + Enter）。代码流程如下：

   • 加载数据：自动下载并加载 MNIST 数据集。
   • 数据预处理：将像素值归一化并重塑数组形状。
   • 构建模型：定义一个简单的全连接神经网络架构。
   • 编译与训练：配置优化器和损失函数，开始训练模型。
   • 评估：输出模型在测试集上的准确率。

3. 观察结果： 运行完毕后，您将看到类似以下的输出，表明模型已成功训练：

   Epoch 1/5
   60000/60000 [==============================] - 2s 33us/sample - loss: 0.2594 - accuracy: 0.9245
   ...
   Test accuracy: 0.9785
   

探索其他章节

您可以按照书中的目录结构探索更多高级应用：

• 计算机视觉：运行 lenet_in_keras.ipynb 体验卷积神经网络。
• 自然语言处理：打开 lstm_sentiment_classifier.ipynb 学习情感分析。
• 生成对抗网络：运行 generative_adversarial_network.ipynb 生成图像。

所有代码均设计为可交互修改，您可以尝试调整超参数（如学习率、批次大小）来观察对模型性能的影响。