TensorFlow-LiveLessons

请注意，本视频系列的第二版现已发布此处。第二版不仅包含了本（第一）版的所有内容，还增加了大量新内容，并更新了相关库的版本。

此仓库收录了与Jon Krohn著作配套的代码：

1. 《使用TensorFlow进行深度学习》LiveLessons（摘要博文此处）
2. 《面向自然语言处理的深度学习》LiveLessons（摘要博文此处）
3. 《深度强化学习与生成对抗网络》LiveLessons（摘要博文此处）

上述顺序是建议学习这些LiveLessons的推荐顺序。 不过，《使用TensorFlow进行深度学习》已提供了足够充分的理论与实践基础，足以支撑后续其他LiveLessons的学习。

先决条件

命令行

若您熟悉Unix命令行的基本操作，将更轻松地完成这些LiveLessons的学习。有关这些基础知识的教程可参见这里。

Python数据分析

此外，如果您不熟悉使用Python进行数据分析（例如，pandas、scikit-learn、matplotlib等库），可以参考DataQuest的数据分析师路径，快速掌握所需技能——其中的第一步（Python入门）和第二步（Python进阶与Pandas）涵盖了大部分核心内容。

安装

运行本仓库中代码的分步指南可在安装目录中找到。

笔记本

我在LiveLessons中讲解的所有代码都以Jupyter笔记本的形式存放在此目录中。

以下是我按课程顺序讲解这些笔记本的安排：

《使用TensorFlow进行深度学习》LiveLessons

第一课：深度学习导论

1.1 神经网络与深度学习

• 通过类比生物神经系统的启发，本节介绍人工神经网络及其如何发展到如今以“深度”架构为主的形态。

1.2 如何运行这些LiveLessons中的代码

• 回顾上文提到的安装目录，讨论运行我的Jupyter笔记本的不同方式。
• 详细说明在Mac OS X上逐步安装TensorFlow的过程（step_by_step_MacOSX_install.md），这一过程对任何类Unix操作系统用户都有借鉴意义。

1.3 一个入门级的人工神经网络

• 动手实践一个尽可能简单的神经网络（shallow_net_in_keras.ipynb），用于分类手写数字。
• 介绍Jupyter笔记本及其常用快捷键。
• 通过白板演示，温和地引入一些深度学习术语：
  • MNIST手写数字数据集
  • 图像预处理以供神经网络分析
  • 浅层网络架构

---

第二课：深度学习的工作原理

2.1 深度神经网络的家族及其应用

• 讲解当前主流深度神经网络家族的功能及常见应用：
  • 密集层/全连接层
  • 卷积神经网络（ConvNet）
  • 循环神经网络（RNN）/长短期记忆单元（LSTM）
  • 强化学习
  • 生成对抗网络

2.2 核心理论I——神经元单元

• 通过直观的图形化解释，阐述以下深度学习核心概念：
  • 神经元单元与激活函数
    • 感知器
    • Sigmoid函数（sigmoid_function.ipynb）
    • 双曲正切函数
    • 整流线性单元（ReLU）

2.3 核心理论II——损失函数、梯度下降与反向传播

• 损失函数
  • 均方误差
  • 交叉熵（cross_entropy_cost.ipynb）
• 梯度下降
• 通过链式法则实现反向传播
• 各种层类型
  • 输入层
  • 密集层/全连接层
  • Softmax输出层（softmax_demo.ipynb）

2.4 TensorFlow Playground——可视化深度网络的运行

• 利用TensorFlow Playground交互式地展示前一节所学的理论。

2.5 深度学习的数据集

• 概述用于图像分类的标准数据集，以及适合深度学习的数据资源汇总。

2.6 将深度网络理论应用于代码I

• 将第二课中学到的理论应用于创建一个中等深度的图像分类器（intermediate_net_in_keras.ipynb）。
• 此模型在1.3节的浅层架构基础上进行了改进，性能也显著提升。

---

第三课：卷积神经网络

3.1 核心理论III——小批量训练、不稳定梯度及避免过拟合

• 为进一步完善我们的深度学习工具箱，深入探讨以下核心理论：
  • 权重初始化
    • 均匀分布
    • 正态分布
    • Xavier Glorot方法
  • 随机梯度下降
    • 学习率
    • 批量大小
    • 二阶梯度优化
      • 动量法
      • Adam算法
  • 不稳定梯度
    • 梯度消失
    • 梯度爆炸
  • 避免过拟合/提高模型泛化能力
    • L1/L2正则化
    • Dropout技术
    • 数据增强
  • 批量归一化
  • 更多层次
    • 最大池化
    • 展平

3.2 将深度网络理论应用于代码 II

• 将上一节学到的理论应用于创建用于图像分类的深层全连接网络（deep_net_in_keras.ipynb）
• 在第2.5节的中间架构基础上进一步改进，并取得更好的性能

3.3 用于视觉识别的卷积神经网络简介

• 通过白板演示，直观地解释卷积层是什么以及它们为何如此有效

3.4 经典卷积网络架构——LeNet-5

• 将上一节学到的理论应用于创建用于图像分类的深层卷积网络（lenet_in_keras.ipynb），该网络灵感来源于第1.1节中介绍的经典LeNet-5神经网络

3.5 经典卷积网络架构——AlexNet和VGGNet

• 使用两个受当代获奖模型架构启发的超深层卷积网络对彩色花卉图像进行分类：AlexNet（alexnet_in_keras.ipynb）和VGGNet（vggnet_in_keras.ipynb）

3.6 TensorBoard与模型输出的解读

• 回到上一节中的网络，添加代码将结果输出到TensorBoard深度学习结果可视化工具
• 探索TensorBoard，并解释如何在其中解读模型结果

---

第四课：TensorFlow简介

4.1 主流深度学习框架对比

• 讨论主流深度学习框架的相对优势、劣势及常见应用：
  • Caffe
  • Torch
  • Theano
  • TensorFlow
  • 以及高层API TFLearn和Keras
• 得出结论：对于最广泛的应用场景，TensorFlow是最佳选择

4.2 TensorFlow简介

• 介绍TensorFlow图及相关术语：
  • 操作（ops）
  • 张量
    • 变量
    • 占位符
  • 输入（feeds）
  • 输出（fetches）
• 构建简单的TensorFlow图（first_tensorflow_graphs.ipynb）
• 在TensorFlow中构建神经元（first_tensorflow_neurons.ipynb）

4.3 在TensorFlow中拟合模型

• 在TensorFlow中拟合一条直线：
  • 通过逐点考虑数据点（point_by_point_intro_to_tensorflow.ipynb）
  • 同时利用张量的优势（tensor-fied_intro_to_tensorflow.ipynb）
  • 使用从数百万数据点中采样的批次（intro_to_tensorflow_times_a_million.ipynb）

4.4 TensorFlow中的全连接网络

• 在TensorFlow中创建一个全连接神经网络（intermediate_net_in_tensorflow.ipynb），其架构与第2.5节中用Keras构建的中间网络相同

4.5 TensorFlow中的深层卷积网络

• 在TensorFlow中创建一个深层卷积神经网络（lenet_in_tensorflow.ipynb），其架构与第3.4节中用Keras构建的LeNet-inspired网络相同

---

第五课：优化深度网络

5.1 提升性能与调优超参数

• 详细介绍提升深度神经网络性能的系统性步骤，包括通过调优超参数来实现

5.2 如何构建你自己的深度学习项目

• 设计和评估你自己的深度学习项目的具体步骤

5.3 自学资源

• 值得投入时间以成为深度学习模型部署专家的主题

---

---

自然语言处理中的深度学习

第一课：深度学习在NLP中的强大与优雅

1.1 自然语言处理中的深度学习简介

• 高度概括深度学习在自然语言处理（NLP）领域的应用
• NLP工业应用中的重要案例
• 当代突破性进展的时间线，这些进展使深度学习方法成为NLP研究与开发的前沿

1.2 自然语言元素的计算表示

• 介绍自然语言的基本元素
• 对比传统机器学习模型与新兴深度学习模型如何表示这些元素

1.3 NLP应用

• 列举常见的NLP应用，并将其分为三个相对复杂度的层次

1.4 安装，包括GPU注意事项

• 基于在Mac OS X上逐步安装TensorFlow，该内容已在使用TensorFlow的深度学习LiveLessons中介绍，以方便使用Nvidia GPU训练深度学习模型。

1.5 深度学习先修理论回顾

• 总结使用TensorFlow的深度学习LiveLessons中介绍的关键概念，这些概念构成了本NLP专题LiveLessons的基础

1.6 预览

• 略窥这些LiveLessons过程中所掌握的能力

---

第二课：词向量

2.1 向量空间嵌入

• 利用交互式演示，帮助直观理解词的向量空间嵌入，即对词义的精细量化表示

2.2 word2vec

• 导致 word2vec 发展的关键论文，这是一种将自然语言转换为向量表示的技术
• 介绍 word2vec 的核心理论：
  • 架构：
    1. Skip-Gram
    2. 连续词袋模型
  • 训练算法：
    1. 层次化 Softmax
    2. 负采样
  • 评估视角：
    1. 内在评估
    2. 外在评估
  • 超参数：
    1. 向量维度数
    2. 上下文窗口大小
    3. 迭代次数
    4. 数据集大小
• 将 word2vec 与其主要替代方案 GloVe 进行对比

2.3 自然语言处理的数据集

• 预训练的词向量：
  • 适用于 word2vec
  • 适用于 GloVe
• 自然语言数据集：
  • Jon Krohn 的 资源页面
  • Zhang、Zhao 和 LeCun 的 标注数据
  • 来自 Andrew Maas 及其斯坦福同事（2011 年） 的互联网电影数据库（IMDB）影评，按情感分类

2.4 使用 word2vec 创建词向量

• 使用 古腾堡计划 中的书籍，通过 word2vec 创建词向量
• 利用 bokeh 库交互式地可视化这些词向量（creating_word_vectors_with_word2vec.ipynb）

---

第三课：自然语言数据建模

3.1 自然语言数据预处理的最佳实践

• 在 natural_language_preprocessing_best_practices.ipynb 中，应用以下推荐的最佳实践来清理用于建模的自然语言语料库：
  • 分词
  • 将所有字符转换为小写
  • 去除停用词
  • 去除标点符号
  • 词干提取
  • 处理二元（和三元）词组搭配

3.2 ROC 曲线下面积

• 详细说明接收者操作特征曲线总结指标——ROC 曲线下面积的计算方法及其功能，该指标将在后续 LiveLessons 中用于评估模型性能

3.3 密集神经网络分类

• 将向量空间嵌入与 TensorFlow 深度学习直播课程 中介绍的深度学习基础知识相结合，创建一个用于按情感对文档进行分类的密集神经网络（dense_sentiment_classifier.ipynb）

3.4 卷积神经网络分类

• 在深度学习架构中添加卷积层，以提升自然语言分类模型的性能（convolutional_sentiment_classifier.ipynb）

---

第四课：循环神经网络

4.1 RNN 的基本理论

• 提供对循环神经网络（RNN）的直观理解，RNN 允许在序列数据上进行时间反向传播，例如自然语言和金融时间序列数据

4.2 RNN 的实际应用

• 将简单的 RNN 层融入到一个按情感对文档进行分类的模型中（rnn_in_keras.ipynb）

4.3 LSTM 和 GRU 的基本理论

• 熟悉长短期记忆网络（LSTM）和门控循环单元（GRU）这两种 RNN 变体，它们能够显著提升深度学习模型对序列数据的建模能力

4.4 LSTM 和 GRU 的实际应用

• 通过 Keras 高级 API，轻松构建 LSTM（vanilla_lstm_in_keras.ipynb）和 GRU（gru_in_keras.ipynb）深度学习架构

---

第五课：高级模型

5.1 双向 LSTM

• 双向 LSTM 是 LSTM 的一种特别强大的变体
• 在实践中运用之前，先了解双向 LSTM 的高级理论（bidirectional_lstm.ipynb）

5.2 堆叠式双向 LSTM

• 将双向 LSTM 堆叠起来，使深度学习网络能够对语言进行越来越抽象的建模（stacked_bidirectional_lstm.ipynb；ye_olde_conv_lstm_stackeroo.ipynb）

5.3 并行网络架构

• 通过非序列化的架构，例如具有各自独特超参数的并行卷积层，可以实现更高级的数据建模能力（multi_convnet_architectures.ipynb）

---

---

深度强化学习与生成对抗网络

第一课：人工智能的基础

1.1 当前的人工智能现状

• 探讨“人工智能”这一术语的含义及其与深度学习的关系
• 定义狭义、通用和超人类智能

1.2 生成对抗网络的应用

• 揭示生成对抗网络在创作逼真且富有创意的人类风格图像方面迅速提升的质量
• 涉及有趣且交互式的pix2pix工具

1.3 大型强化学习的应用

• 区分监督学习、无监督学习与强化学习
• 概述当代具有里程碑意义的深度强化学习突破，包括：
  • 深度Q学习算法
  • AlphaGo
  • AlphaGo Zero
  • AlphaZero
  • 机器人技术的进步
• 介绍最受欢迎的深度强化学习环境：
  • OpenAI Gym
  • DeepMind Lab
  • Unity

1.4 在这些LiveLessons中运行代码

• 回顾在Mac OS X上逐步安装TensorFlow的过程，该过程详细记录于使用TensorFlow进行深度学习的LiveLessons

1.5 深度学习理论预备知识回顾

• 总结使用TensorFlow进行深度学习的LiveLessons中介绍的关键概念，这些概念构成了本高级主题LiveLessons内容的基础

---

第二课：生成对抗网络（GANs）

2.1 GANs的核心理论

• 介绍GANs的高层次理论，以及它们如何生成逼真的图像

2.2 “Quick, Draw!”游戏数据集

• 展示Quick, Draw!游戏，我们将其用作来源，提供来自单一类别的数十万幅手绘图像，供GAN学习模仿

2.3 判别器网络

• 构建GAN中的判别器组件（generative_adversarial_network.ipynb）

2.4 生成器网络

• 继续构建GAN中的生成器组件（generative_adversarial_network.ipynb）

2.5 训练对抗网络

• 让生成器和判别器作为对手相互对抗（generative_adversarial_network.ipynb完成）

---

第三课：深度Q学习网络（DQN）

3.1 Cartpole游戏

• 介绍Cartpole游戏，这是由OpenAI提供的环境，并在整个剩余的LiveLessons中用于训练深度强化学习算法

3.2 深度强化学习的核心理论

• 深入探讨深度强化学习的一般核心理论

3.3 DQN的核心理论

• 深入探讨深度Q学习网络的核心理论，这是一种流行的特定类型的深度强化学习算法

3.4 定义一个DQN智能体

• 从头开始定义一个深度Q学习智能体（cartpole_dqn.ipynb）

3.5 与OpenAI Gym环境交互

• 利用OpenAI Gym使我们的深度Q学习智能体掌握Cartpole游戏（cartpole_dqn.ipynb完成）

---

第四课：OpenAI Lab

4.1 可视化智能体表现

• 使用OpenAI Lab实时可视化我们的深度Q学习智能体的表现

4.2 调整智能体超参数

• 学习如何简单地优化深度强化学习智能体的超参数

4.3 自动化超参数实验与优化

• 自动化搜索超参数以优化智能体的表现

4.4 适应度

• 计算汇总指标来衡量智能体的整体适应度

---

第五课：高级深度强化学习智能体

5.1 策略梯度与REINFORCE算法

• 从高层次了解策略梯度算法，特别是经典的REINFORCE实现

5.2 演员-评论家算法

• 介绍如何将策略梯度与深度Q学习结合，从而实现演员-评论家算法

5.3 软件2.0

• 讨论深度学习如何引领软件开发进入一个由数据驱动、而非硬编码规则的新时代

5.4 朝向通用人工智能迈进

• 回到关于人工智能的讨论，重点探讨现代深度学习方法的局限性

---

---

TensorFlow-LiveLessons 快速上手指南

本指南基于 Jon Krohn 的深度学习视频教程配套代码库，旨在帮助开发者快速搭建环境并运行经典的深度学习示例（涵盖 TensorFlow 基础、CNN、NLP 及强化学习）。

注意：原仓库为第一版教程代码。作者已发布包含更多内容且库版本更新的第二版，建议优先访问 DLTFpT 第二版仓库。若需学习本仓库（第一版）内容，请参考以下步骤。

1. 环境准备

在开始之前，请确保您的开发环境满足以下要求：

系统要求

• 操作系统：推荐使用 Unix-like 系统（macOS 或 Linux）。Windows 用户建议使用 WSL (Windows Subsystem for Linux) 以获得最佳兼容性。
• 命令行基础：熟悉基本的 Unix 命令行操作（如 cd, ls, mkdir 等）。
  • 入门参考：Unix 命令行基础教程

前置知识

• Python 数据分析基础：熟悉 Python 及其数据科学生态圈。
  • 核心库：pandas, scikit-learn, matplotlib。
  • 快速提升：推荐完成 DataQuest 的 数据分析师路径 中的前两步（Python 入门与中级/Pandas）。

软件依赖

• Python: 建议版本 3.6+ (具体视原仓库 requirements.txt 而定，老版本项目可能依赖 Python 3.5/3.6)。
• Jupyter Notebook: 用于运行交互式教程代码。
• 深度学习框架: TensorFlow (CPU 或 GPU 版本) 及 Keras。

2. 安装步骤

本仓库提供了详细的分步安装指南，特别是针对 macOS 用户。

第一步：克隆仓库

打开终端，执行以下命令获取代码：

git clone https://github.com/the-deep-learners/TensorFlow-LiveLessons.git
cd TensorFlow-LiveLessons

第二步：查看详细安装文档

仓库内的 installation 目录包含了针对不同系统的详细配置说明。强烈建议先阅读该目录下的文档，特别是 macOS 用户的分步指南：

• 通用安装指引目录: installation directory
• macOS 分步安装详解: step_by_step_MacOSX_install.md

第三步：安装依赖 (通用流程)

通常需要通过 pip 安装所需库。由于这是较早期的项目，建议先检查是否存在 requirements.txt 文件，或使用以下通用命令安装核心组件（国内用户推荐使用清华或阿里镜像源加速）：

# 使用清华镜像源安装常用依赖
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple jupyter numpy pandas matplotlib scikit-learn

# 安装 TensorFlow 和 Keras (版本需参考原项目要求，以下为通用安装命令)
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple tensorflow keras

提示：如果遇到版本冲突问题，请参照 installation 文件夹中的具体版本号进行安装。

3. 基本使用

所有教程代码均以 Jupyter Notebook (.ipynb) 形式存储在 notebooks 目录中，按课程章节分类。

启动 Jupyter Notebook

在项目根目录下运行：

jupyter notebook

浏览器将自动打开，导航至 notebooks 文件夹即可看到所有示例代码。

推荐学习路径与首个示例

建议按照以下顺序进行学习，这也是原教程的录制顺序：

1. Deep Learning with TensorFlow (基础理论的核心)
2. Deep Learning for Natural Language Processing (NLP 应用)
3. Deep Reinforcement Learning and GANs (进阶应用)

运行第一个示例：浅层神经网络

进入 Lesson One，尝试运行最基础的 handwritten digits 分类示例，以熟悉流程和术语。

• 文件位置: notebooks/shallow_net_in_keras.ipynb
• 内容概述:
  • 介绍 Jupyter Notebook 常用快捷键。
  • 讲解 MNIST 数据集及其预处理。
  • 构建并训练一个简单的浅层神经网络。

操作步骤:

1. 在 Jupyter 界面点击 shallow_net_in_keras.ipynb。
2. 依次选中代码单元格，按 Shift + Enter 运行。
3. 观察模型训练过程中的 Loss 变化及最终的准确率输出。

进阶示例：TensorFlow 原生实现

在掌握 Keras 高层 API 后，可前往 Lesson Four 学习 TensorFlow 底层图机制。

• 文件位置: notebooks/first_tensorflow_graphs.ipynb
• 内容概述: 演示如何手动定义 Ops、Tensors、Variables 和 Placeholders，构建最简单的计算图。

---

更多详细理论讲解请配合原视频课程观看，代码注释中亦包含关键概念的解释。