机器学习读书营

《机器学习读书营》一书中的代码

实用链接：

• https://mlbookcamp.com：补充材料
• https://datatalks.club：讨论数据的地方（以及本书：加入 #ml-bookcamp 频道，提问关于本书的问题并报告任何问题）

机器学习 Zoom 营

机器学习 Zoom 营是一门基于该书的课程。

• 它是在线且免费的。
• 您可以随时加入。
• 更多信息请参见课程仓库。

阅读计划

章节

第1章：机器学习简介

• 理解机器学习及其能够解决的问题
• CRISP-DM：组织成功的机器学习项目
• 训练和选择机器学习模型
• 进行模型验证

无代码

第2章：用于回归的机器学习

• 使用线性回归模型创建汽车价格预测项目
• 使用 Jupyter 笔记本进行初步探索性数据分析
• 设置验证框架
• 从头实现线性回归模型
• 对模型进行简单的特征工程
• 通过正则化控制模型
• 使用模型预测汽车价格

代码：chapter-02-car-price/02-carprice.ipynb

第3章：用于分类的机器学习

• 使用逻辑回归预测将流失的客户
• 进行探索性数据分析以识别重要特征
• 对分类变量进行编码以便在机器学习模型中使用
• 使用逻辑回归进行分类

代码：chapter-03-churn-prediction/03-churn.ipynb

第4章：分类的评估指标

• 准确率作为评估二元分类模型的一种方式及其局限性
• 使用混淆矩阵确定模型出错的位置
• 从混淆矩阵推导出精确率、召回率等其他指标
• 使用 ROC 曲线和 AUC 进一步了解二元分类模型的性能
• 通过交叉验证确保模型表现最佳
• 调整模型参数以获得最佳预测性能

代码：chapter-03-churn-prediction/04-metrics.ipynb

第5章：部署机器学习模型

• 使用 Pickle 保存模型
• 使用 Flask 提供模型服务
• 使用 Pipenv 管理依赖项
• 使用 Docker 使服务自包含
• 使用 AWS Elastic Beanstalk 将其部署到云端

代码：chapter-05-deployment

第6章：决策树与集成学习

• 使用基于树的模型预测违约风险
• 决策树及决策树学习算法
• 随机森林：将多棵树组合成一个模型
• 梯度提升作为另一种组合决策树的方式

代码：chapter-06-trees/06-trees.ipynb

第7章：神经网络与深度学习

• 用于图像分类的卷积神经网络
• TensorFlow 和 Keras——构建神经网络的框架
• 使用预训练的神经网络
• 卷积神经网络的内部机制
• 使用迁移学习训练模型
• 数据增强——生成更多训练数据的过程

代码：chapter-07-neural-nets/07-neural-nets-train.ipynb

第8章：无服务器深度学习

• 使用 TensorFlow-Lite 提供模型服务——一种轻量级的 TensorFlow 模型应用环境
• 使用 AWS Lambda 部署深度学习模型
• 通过 API Gateway 将 Lambda 函数公开为 Web 服务

代码：chapter-08-serverless

第9章：Kubernetes 和 Kubeflow

Kubernetes：

• 理解在云中部署和提供模型的不同方法
• 使用 TensorFlow-Serving 提供 Keras 和 TensorFlow 模型服务
• 将 TensorFlow-Serving 部署到 Kubernetes 上

代码：chapter-09-kubernetes

Kubeflow：

• 使用 Kubeflow 和 KFServing 简化部署流程

代码：chapter-09-kubeflow

来自 mlbookcamp.com 的文章：

• 创建 EKS 集群
• 在 EKS 上创建 KFServing 集群
• KFServing Transformers

附录

附录 A：设置环境

• 安装 Anaconda，这是一个包含我们所需大多数科学库的 Python 发行版
• 从远程机器运行 Jupyter Notebook 服务
• 安装并配置 Kaggle 命令行界面工具，以便访问 Kaggle 上的数据集
• 使用 Web 界面和命令行界面在 AWS 上创建 EC2 实例

代码：无代码

来自 mlbookcamp.com 的文章：

• 创建 AWS 账户
• 租用 EC2 实例

附录 B：Python 入门

• 基础 Python 语法：变量和控制流结构
• 集合：列表、元组、集合和字典
• 列表解析：操作集合的一种简洁方式
• 可重用性：函数、类和导入代码
• 包管理：使用 pip 安装库
• 运行 Python 脚本

代码：appendix-b-python.ipynb

来自 mlbookcamp.com 的文章：

• Python 入门

附录 C：NumPy 和线性代数入门

• 一维和二维 NumPy 数组
• 随机生成 NumPy 数组
• NumPy 数组上的操作：逐元素运算、汇总运算、排序和过滤
• 线性代数中的乘法：向量-向量、矩阵-向量和矩阵-矩阵乘法
• 求矩阵的逆以及求解正规方程

代码：appendix-c-numpy.ipynb

来自 mlbookcamp.com 的文章：

• NumPy 入门

附录 D：Pandas 入门

• Pandas 中的主要数据结构：DataFrame 和 Series
• 访问 DataFrame 的行和列
• 逐元素和汇总运算
• 处理缺失值
• 排序和分组

代码：appendix-d-pandas.ipynb

附录 E：AWS SageMaker

• 提高 GPU 配额限制
• 在 AWS SageMaker 中租用带有 GPU 的 Jupyter Notebook

mlbookcamp-code 快速上手指南

mlbookcamp-code 是《Machine Learning Bookcamp》一书的配套代码库，涵盖了从回归、分类到深度学习模型部署的完整机器学习流程。本指南帮助开发者快速搭建环境并运行示例代码。

环境准备

在开始之前，请确保您的系统满足以下要求：

• 操作系统：Linux, macOS 或 Windows (推荐配合 WSL2 使用)
• Python 版本：Python 3.8 或更高版本
• 前置依赖：
  • Git：用于克隆代码仓库
  • Anaconda 或 Miniconda（推荐）：用于管理 Python 环境和科学计算包
  • Docker（可选）：用于第 5 章及之后的模型部署练习
  • AWS 账号（可选）：用于云端部署相关章节（如 SageMaker, Lambda, EKS）

提示：国内用户建议安装 Anaconda 中国镜像版 或使用 Miniconda 并配置清华/中科大镜像源以加速包下载。

安装步骤

1. 克隆项目代码

打开终端，执行以下命令获取源代码：

git clone https://github.com/alexeygrigorev/mlbookcamp-code.git
cd mlbookcamp-code

2. 创建并激活虚拟环境

推荐使用 Conda 创建独立环境，避免依赖冲突。

# 创建名为 mlbookcamp 的环境，指定 Python 版本
conda create -n mlbookcamp python=3.9 -y

# 激活环境
conda activate mlbookcamp

3. 安装依赖库

进入对应的章节目录安装依赖，或者在项目根目录安装通用依赖（如果存在 requirements.txt）。针对大多数章节，您可以直接安装核心数据科学栈：

# 安装基础科学计算和机器学习库
pip install numpy pandas scikit-learn matplotlib seaborn jupyterlab flask pickle5

# 针对深度学习章节 (第 7-9 章)
pip install tensorflow keras

# 针对部署章节 (第 5 章等)
pip install pipenv docker

# 【国内加速】使用清华源加速安装
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple numpy pandas scikit-learn jupyterlab flask tensorflow

注意：部分章节（如 Chapter 5, 8, 9）可能有独立的 requirements.txt 或 Pipfile，请进入对应子目录（例如 cd chapter-05-deployment）后单独安装。

基本使用

本项目主要以 Jupyter Notebook 形式组织代码。以下是运行第一个实战项目（第二章：汽车价格预测）的步骤：

1. 启动 Jupyter Lab

在项目根目录或特定章节目录下启动服务：

# 进入第二章目录
cd chapter-02-car-price

# 启动 Jupyter Lab
jupyter lab

浏览器会自动打开界面，找到并点击 02-carprice.ipynb 文件。

2. 运行示例代码

在 Notebook 中，按顺序执行单元格即可复现书中的流程。以下是一个简单的代码逻辑示意（基于线性回归）：

import pandas as pd
import numpy as np
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LinearRegression

# 1. 加载数据 (示例路径，具体请参考 notebook 内容)
df = pd.read_csv('data.csv')

# 2. 数据预处理与特征选择
base_columns = ['year', 'mileage', 'engine_displacement']
X = df[base_columns]
y = df['price']

# 3. 划分训练集和验证集
X_train, X_val, y_train, y_val = train_test_split(X, y, test_size=0.2, random_state=42)

# 4. 训练模型
model = LinearRegression()
model.fit(X_train, y_train)

# 5. 预测与评估
y_pred = model.predict(X_val)
print(f"模型系数: {model.coef_}")
print(f"截距: {model.intercept_}")

3. 探索其他章节

• 分类任务：进入 chapter-03-churn-prediction 运行 03-churn.ipynb。
• 模型评估：在同一目录下运行 04-metrics.ipynb 学习混淆矩阵与 ROC 曲线。
• 模型部署：进入 chapter-05-deployment，按照 Notebook 指引使用 Flask 封装模型，并使用 Docker 构建镜像。

4. 参考文档与社区

• 补充材料：访问 mlbookcamp.com 获取详细文章（如 AWS EKS 集群搭建指南）。
• 交流讨论：加入 DataTalks.Club 的 #ml-bookcamp 频道提问或反馈问题。