《机器学习Q&A与AI进阶》书籍

由塞巴斯蒂安·拉施卡编写的《机器学习Q&A与AI》一书的配套资料。

如有关于本书的问题，请使用讨论区！

关于本书

如果你已经掌握了机器学习和人工智能的基础知识，并希望以一种有趣的方式填补尚存的知识空白，那么这本书正适合你。本书以快节奏的短篇章节形式，围绕该领域的30个核心问题展开解答，帮助你紧跟最新技术，将其应用到自己的工作中。

《机器学习Q&A与AI》的每一章都围绕一个核心问题进行问答，并配有图表来阐释新概念，同时提供丰富的参考文献供进一步阅读。

• 多GPU训练范式
• 变换器模型的微调
• 编码器与解码器架构大型语言模型的区别
• 视觉变换器背后的核心概念
• 机器学习中的置信区间
• 以及更多内容！

本书是曾在Leanpub上发布的《Machine Learning Q and AI》的完全编辑和修订版。

书评

“很难找到比塞巴斯蒂安更好的向导了，他毫不夸张地说是目前机器学习领域最优秀的教育者。在每一页中，塞巴斯蒂安不仅传授了他渊博的知识，还分享了真正专家所具备的热情与好奇心。”
——克里斯·阿尔本，维基媒体基金会机器学习总监

链接

• 直接从No Starch出版社预订
• 直接从亚马逊预订
• 配套资料与讨论区

目录

标题	URL链接	配套代码
1	嵌入、表示与潜在空间
2	自监督学习
3	少样本学习
4	彩票假说
5	通过数据减少过拟合
6	通过模型改进减少过拟合
7	多GPU训练范式
8	变换器成功的秘诀
9	生成式AI模型
10	随机性的来源	data-sampling.ipynb dropout.ipynb random-weights.ipynb
	第二部分：计算机视觉
11	计算参数数量	conv-size.ipynb
12	全连接层与卷积层的等价性	fc-cnn-equivalence.ipynb
13	视觉变换器的大规模训练数据集
	第三部分：自然语言处理
14	分布假设
15	文本数据增强	backtranslation.ipynb noise-injection.ipynb sentence-order-shuffling.ipynb synonym-replacement.ipynb synthetic-data.ipynb word-deletion.ipynb word-position-swapping.ipynb
16	自注意力机制
17	编码器与解码器架构的变换器
18	使用与微调预训练变换器
19	评估生成式大型语言模型	BERTScore.ipynb bleu.ipynb perplexity.ipynb rouge.ipynb
	第四部分：生产与部署
20	无状态与有状态训练
21	数据中心型AI
22	加速推理
23	数据分布偏移
	第五部分：预测性能与模型评估
24	泊松回归与序数回归
25	置信区间	four-methods.ipynb four-methods-vs-true-value.ipynb
26	置信区间与共形预测	conformal_prediction.ipynb
27	合适的评估指标
28	K折交叉验证中的K值
29	训练集与测试集不一致
30	标注数据有限

Machine Learning Q and AI 快速上手指南

本指南旨在帮助开发者快速访问 Sebastian Raschka 所著《Machine Learning Q and AI》一书的补充代码材料，通过运行 Jupyter Notebook 深入理解书中涉及的 30 个核心机器学习与 AI 问题。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Windows、macOS 或 Linux。
• Python 版本：推荐 Python 3.8 或更高版本。
• 核心依赖：
  • Jupyter Lab 或 Jupyter Notebook（用于运行示例代码）
  • PyTorch 或 TensorFlow（部分深度学习示例需要，具体视 Notebook 内容而定）
  • scikit-learn, pandas, numpy, matplotlib（通用数据科学库）
• 网络环境：由于仓库托管在 GitHub，建议配置好网络环境以便克隆代码。若下载依赖包较慢，推荐使用国内镜像源。

安装步骤

1. 克隆项目仓库

打开终端（Terminal）或命令提示符，执行以下命令将补充材料下载到本地：

git clone https://github.com/rasbt/MachineLearning-QandAI-book.git
cd MachineLearning-QandAI-book

提示：如果克隆速度较慢，可使用国内加速链接（如适用）：

git clone https://ghproxy.com/https://github.com/rasbt/MachineLearning-QandAI-book.git

2. 创建虚拟环境并安装依赖

建议使用 conda 或 venv 创建独立的虚拟环境。以下以 conda 为例：

# 创建名为 ml-qai 的环境，指定 Python 版本
conda create -n ml-qai python=3.9 -y

# 激活环境
conda activate ml-qai

# 安装基础数据科学库（使用清华镜像源加速）
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple numpy pandas scikit-learn matplotlib jupyterlab

# 根据具体章节需求安装深度学习框架（任选其一或全部）
# PyTorch (CPU 版本示例，GPU 版本请参考 pytorch.org)
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple torch torchvision torchaudio

# 或者 TensorFlow
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple tensorflow

注意：具体的 Notebook 可能需要额外的库（如 transformers, bert-score 等）。如果在运行特定文件时报错缺少模块，请使用 pip install <package_name> 单独安装。

基本使用

本项目主要由一系列 Jupyter Notebook (.ipynb) 组成，对应书中的不同章节。以下是运行示例的基本流程：

1. 启动 Jupyter Lab

在项目根目录下启动服务：

jupyter lab

浏览器会自动打开 Jupyter 界面。

2. 运行示例代码

在文件浏览器中，导航至 supplementary 文件夹，选择您感兴趣的章节目录。例如，要学习 第 10 章：随机性来源 (Sources of Randomness) 中的 Dropout 示例：

1. 进入路径：supplementary/q10-random-sources/
2. 点击打开 dropout.ipynb
3. 依次点击单元格（Cell）并按 Shift + Enter 运行代码，观察输出结果和图表。

其他热门示例路径参考：

• 文本数据增强 (第 15 章): supplementary/q15-text-augment/backtranslation.ipynb
• LLM 评估指标 (第 19 章): supplementary/q19-evaluation-llms/BERTScore.ipynb
• 置信区间计算 (第 25 章): supplementary/q25_confidence-intervals/1_four-methods.ipynb
• 卷积层参数计算 (第 11 章): supplementary/q11-conv-size/q11-conv-size.ipynb

3. 结合书籍阅读

建议对照《Machine Learning Q and AI》实体书或电子版的相关章节阅读。每个 Notebook 都旨在通过代码复现书中提到的概念、公式或实验结果，帮助您从理论到实践全面掌握知识点。