机器学习 公式推导与代码实现

李航老师的《统计学习方法》和周志华老师的西瓜书《机器学习》一直是国内机器学习领域的经典教材。本书在这两本书的理论框架基础上，补充了必要的代码实现思路和逻辑过程。

本书在对全部机器学习算法进行分类梳理的基础之上，分别对监督学习单模型、监督学习集成模型、无监督学习模型、概率模型4个大类26个经典算法进行了相对完整的公式推导和必要的代码实现，旨在帮助机器学习入门读者完整地掌握算法细节、实现方法以及内在逻辑。本书可作为《统计学习方法》和西瓜书《机器学习》的补充材料。

---

使用说明

本仓库为《机器学习 公式推导与代码实现》一书配套代码库，相较于书中代码而言，仓库代码随时保持更新和迭代。目前仓库只开源了全书的代码，全书内容后续也会在仓库中开源。本仓库已经根据书中章节将代码分目录整理好，读者可直接点击相关章节使用该章节代码。

---

纸质版

购买链接：京东 | 当当

---

配套PPT

为方便大家更好的使用本书，本书也配套了随书的PPT，购买过纸质书的读者可以在机器学习实验室公众号联系作者获取。

---

配套视频讲解（更新中）

为了帮助广大读者更好地学习和掌握机器学习的一般理论和方法，笔者在PPT基础上同时在为全书配套讲解视频。包括模型的公式手推和代码的讲解。

第一章：机器学习入门

---

全书勘误表

勘误表：勘误表

---

LICENSE

本项目采用知识共享署名-非商业性使用-相同方式共享 4.0 国际许可协议进行许可。

Machine_Learning_Code_Implementation 快速上手指南

本指南旨在帮助开发者快速搭建环境并运行《机器学习 公式推导与代码实现》配套代码库，涵盖监督学习、无监督学习等 26 个经典算法的实现。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Windows / macOS / Linux
• Python 版本：推荐 Python 3.8 及以上版本
• 核心依赖：
  • numpy (数值计算)
  • pandas (数据处理)
  • matplotlib / seaborn (数据可视化)
  • scikit-learn (部分算法对比与数据加载)
  • jupyter (可选，用于运行 Notebook 示例)

国内加速建议：推荐使用清华或阿里镜像源安装依赖，以提升下载速度。

安装步骤

1. 克隆项目仓库

使用 Git 将代码库克隆到本地：

git clone https://github.com/luwill/Machine_Learning_Code_Implementation.git
cd Machine_Learning_Code_Implementation

2. 创建虚拟环境（推荐）

为避免依赖冲突，建议创建独立的虚拟环境：

python -m venv ml_env
# Windows
ml_env\Scripts\activate
# macOS/Linux
source ml_env/bin/activate

3. 安装依赖包

项目根目录下通常包含 requirements.txt（若存在），或直接安装核心库。使用国内镜像源安装：

pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple

若项目中无 requirements.txt，请手动安装基础库：

pip install numpy pandas matplotlib scikit-learn jupyter -i https://pypi.tuna.tsinghua.edu.cn/simple

基本使用

本仓库已按书籍章节对代码进行了目录分类。您可以直接进入对应章节文件夹运行代码。

示例：运行第一章代码

假设您想查看或运行第 1 章（机器学习入门）的相关实现：

1. 进入章节目录：

   cd Chapter_01
   

   (注：实际目录名请以仓库中的文件夹名称为准，如 Ch01 或 01_Introduction)

2. 查看代码文件： 目录中通常包含 .py 脚本或 .ipynb Notebook 文件。

   ls
   

3. 运行代码：

   • 运行 Python 脚本：

     python main.py
     

     (请将 main.py 替换为实际的文件名)

   • 启动 Jupyter Notebook（推荐用于交互式学习）：

     jupyter notebook
     

     在浏览器中打开对应的 .ipynb 文件，即可逐步运行单元格，观察公式推导与代码实现的对应关系。

获取配套资源

• PPT 课件：购买纸质书的读者可通过“机器学习实验室”公众号联系作者获取。
• 视频讲解：访问 Bilibili 搜索“机器学习入门”或查看 README 中的链接观看作者手推公式与代码讲解视频。
• 勘误表：如遇代码或理论疑问，请先查阅仓库中的 Errata/Errata.md 文件。