ML-Tutorial-Experiment

为“学会学习”而编写的机器学习教程编码

• 第一期：从零开始用TensorFlow搭建卷积神经网络--&--文章代码
  • 补充资料：基础代码解析
  • 补充资料：Keras构建CNN
  • 补充资料：TensorFlow构建LeNet-5
  • 补充资料：从DensNet到CliqueNet，探索卷积神经网络架构
• 第二期：GAN完整理论推导与实现--&--文章代码
  • 补充资料：原版GAN的TensorFlow实现
• 第三期：CapsNet结构解析与实现--&--文章代码
  • 补充资料：解读官方实现的核心代码
• 第四期：RNN与CNN的序列建模--&--LSTM语言建模--&--TCN官方实现--&--TCN语言建模（Colaboratory）
• 第五期：基于Transformer的神经机器翻译--&--Colaboratory实现

---

为了扩展优秀模型与实现，机器之心将梳理历史优质文章，同时也欢迎各位开发者与研究者提供优质的文章。我们将尝试确定添加的文章都是可复现，且基本无理解性错误的文章，并按以下模型归类。若读者发现这些文章有错误或理解误差，可以在 GitHub 上提 issue，确定后我们将修改文章。

• 数学与编程基础
  • 线性代数
    • 教程 | 基础入门：深度学习矩阵运算的概念和代码实现
  • 概率与信息论
    • 从概率论到多分类问题：综述贝叶斯统计分类
  • 数值计算
  • Python基础
    • 从变量到封装：一文带你为机器学习打下坚实的Python基础
    • 一文带你了解 Python 集合与基本的集合运算
  • NumPy基础
    • 搭建模型第一步：你需要预习的 NumPy 基础都在这了
    • 从数组到矩阵的迹，NumPy常见使用大总结
    • 数据科学初学者必知的NumPy基础知识
• 一般机器学习
  • 入门模型
    • 线性回归
      • 初学TensorFlow机器学习：如何实现线性回归？
      • Python环境下的8种简单线性回归算法
      • 极简Python带你探索分类与回归的奥秘
    • Logistic 回归
      • 从原理到应用：简述Logistics回归算法
      • 从头开始：用Python实现带随机梯度下降的Logistic回归
  • 朴素贝叶斯
    • 实践中最广泛应用的分类模型：朴素贝叶斯算法
  • 决策树
  • 支持向量机
  • 聚类方法
    • K均值聚类
    • 层次聚类
  • 降维算法
    • PCA
    • 自编码器
    • t-SNE
  • 集成方法
    • Staking
    • Bagging
      • 随机森林
    • Boosting
      • AdaBoost
      • 提升树
      • 梯度提升树
  • 概率图模型
    • 隐马尔科夫模型
    • 隐马尔可夫随机场
    • 条件随机场
  • 半监督学习
    • Entropy-based
    • Graph-based
• 深度学习
  • 最优化方法
  • 深度前馈网络
  • 深度卷积网络
  • 深度循环网络
  • 深度生成模型
    • PixelRNN/PixelCNN
    • VAE
    • GAN

ML-Tutorial-Experiment 快速上手指南

本指南旨在帮助开发者快速运行机器之心（Synced）提供的机器学习教程实验代码，涵盖从 CNN、GAN 到 Transformer 等经典模型的复现。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux, macOS 或 Windows (推荐 Linux/WSL)
• Python 版本：Python 3.6 - 3.8 (根据教程发布时间，建议使用 Python 3.7)
• 核心依赖：
  • TensorFlow (1.x 或 2.x，视具体 Notebook 而定，大部分早期教程基于 TF 1.x)
  • Keras
  • NumPy
  • Matplotlib
  • Jupyter Notebook / JupyterLab
• 硬件建议：部分深度学习模型（如 GAN, CapsNet, Transformer）建议在配备 NVIDIA GPU 的环境中运行以加速训练。

安装步骤

1. 克隆项目仓库

首先将代码库克隆到本地：

git clone https://github.com/jiqizhixin/ML-Tutorial-Experiment.git
cd ML-Tutorial-Experiment

2. 创建虚拟环境并安装依赖

推荐使用 conda 或 venv 隔离环境。以下以 pip 为例安装基础依赖（针对 TensorFlow 2.x 兼容模式，若需运行旧版 TF 1.x 代码请调整版本号）：

# 创建虚拟环境
python -m venv ml_tutorial_env
source ml_tutorial_env/bin/activate  # Windows 用户请使用: ml_tutorial_env\Scripts\activate

# 使用国内镜像源加速安装 (推荐清华源)
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple tensorflow keras numpy matplotlib jupyter pandas scipy

注意：部分早期教程（如第一期 CNN、第二期 GAN 原版）可能依赖 TensorFlow 1.x。如需复现原始效果，可安装特定版本： pip install -i https://pypi.tuna.tsinghua.edu.cn/simple tensorflow==1.15.0

3. 启动 Jupyter

进入实验目录并启动 Notebook 服务：

cd Experiments
jupyter notebook

基本使用

本项目主要由一系列 Jupyter Notebook (.ipynb) 文件组成，每个文件对应一期教程的具体实现。

方式一：本地运行

1. 在浏览器打开的 Jupyter 界面中，找到对应的实验文件。
   • 例如：运行卷积神经网络教程，打开 tf_CNN_Tutorial.ipynb。
   • 例如：运行 GAN 教程，打开 Keras_GAN.ipynb。
2. 点击单元格，按顺序执行代码（Cell -> Run All），即可看到模型训练过程及结果可视化。

方式二：云端一键运行 (推荐)

项目提供了 DeepNote 和 Google Colab 的快速启动链接，无需本地配置环境即可直接运行：

• DeepNote: 点击 README 中各章节旁的 Launch in DeepNote 按钮，即可在云端数据科学环境中加载并运行代码。
• Google Colab: 对于部分较新的教程（如 TCN, Transformer），可直接点击提供的 Colab 链接在 Google 免费 GPU 环境下运行。

示例：运行第一个 CNN 教程

假设您已克隆代码并安装了 TensorFlow：

1. 进入 Experiments 文件夹。
2. 打开 tf_CNN_Tutorial.ipynb。
3. 依次运行代码块，系统将自动下载 MNIST/CIFAR 数据集（首次运行需联网），构建卷积神经网络并进行训练。
4. 观察输出日志中的 Loss 变化及最终生成的准确率图表。

资源分类索引

根据您的学习路径，可选择以下对应的 Notebook 文件：

• 基础入门: tf_trial_1.ipynb, tf_Keras_CNN.ipynb
• 生成模型: Keras_GAN.ipynb, tf_GAN.ipynb
• 进阶架构: tf_orginal_CapsNet.ipynb, LSTM_PTB.ipynb
• 序列建模: 参考 README 中的 Colab 链接运行 TCN 和 Transformer 模型。