完整机器学习包

🏅 被评为 GitHub 上顶级数据科学仓库之一！

技术、工具、最佳实践，以及你学习机器学习所需的一切！

完整机器学习包 是一个全面的代码库，包含 35 个关于 Python 编程、数据处理、数据分析、数据可视化、数据清洗、经典机器学习、计算机视觉和自然语言处理 (NLP) 的笔记本。

所有笔记本都是以读者为中心编写的。每个笔记本都从对所讨论的具体算法或概念的高层次概述开始。在可能的情况下，会使用图表来使内容更加清晰。

---

最新动态 🔥

• 2023 年 5 月 10 日：新增了 MLOps 综合指南。欢迎阅读！

• 2022 年 6 月 23 日：许多人询问如何支持本项目。你可以请我们喝杯 咖啡 ☕️

• 2022 年 5 月 18 日：完整机器学习包现已上线 网页。现在可以轻松查看所有笔记本！

• 2022 年 4 月 9 日：更新了 使用预训练卷积神经网络的迁移学习，增加了更多内容并补充了相关资源。

• 2021 年 11 月 25 日：更新了 机器学习基础：添加了入门说明、机器学习系统设计流程以及学习系统的挑战。

---

工具概览

以下是完整机器学习包中涵盖的工具。这些工具在机器学习工程师和数据科学家的日常工作中非常常见，几乎每个人都需要用到。

• Python 是一种高级编程语言，在数据社区中广受欢迎。随着各种库和框架的快速发展，它已成为进行机器学习的理想选择。

• NumPy 是一种用于数组或矩阵运算的科学计算工具。

• Pandas 是一款强大且简单的工具，可用于分析和操作来自各种不同来源的数据。

• Matplotlib 是一个功能全面的数据可视化工具，可用于在 Python 中创建静态、动画和交互式可视化效果。

• Seaborn 是另一个基于 Matplotlib 构建的数据可视化工具，使用起来非常简单。

• Scikit-Learn：与从头开始构建机器学习模型不同，Scikit-Learn 可以让你用几行代码轻松使用经典模型。该工具被几乎所有机器学习社区和行业采用，从小型初创公司到大型科技企业。

• TensorFlow 和 Keras 用于深度学习：TensorFlow 是一个流行的深度学习框架，可用于构建适用于计算机视觉和自然语言处理等不同领域的模型。Keras 是一个高级神经网络 API，可轻松设计深度学习模型。TensorFlow 和 Keras 拥有一个庞大的 社区 和生态系统，其中包括 TensorBoard、TF Datasets、TensorFlow Lite、TensorFlow Extended、TensorFlow Hub、TensorFlow.js、TensorFlow GNN 等，还有更多 资源 和 工具。

---

完整大纲

第一部分 - Python 入门与数据处理

0 - 机器学习中的 Python 入门

1 - 使用 NumPy 进行数据计算

• 创建 NumPy 数组
• 数据选择：索引和切片数组
• 执行数学和其他基本操作
• 进行基本统计
• 数据操作

*你可以在这里找到关于 NumPy 的详细笔记*]

2 - 使用 Pandas 进行数据处理

• Pandas 基础
  • Series 和 DataFrames
  • 数据索引和选择
  • 处理缺失数据
  • 基本操作和函数
  • 聚合方法
  • Groupby
  • 合并、连接和拼接
• 不止于 DataFrames：处理 CSV 和 Excel 文件
• 现实世界中的探索性数据分析 (EDA)

3 - 数据可视化

• 使用 Matplotlib 进行数据可视化
• 使用 Seaborn 进行数据可视化
• 使用 Pandas 进行数据可视化

4 - 现实世界中的数据探索性分析和数据准备

• 探索性数据分析

• 数据准备入门

• 处理分类特征

• 特征缩放

• 处理缺失值

第二部分 - 机器学习

5 - 机器学习基础

• 什么是机器学习？
• 人工智能、数据科学、机器学习和深度学习的区别
• 机器学习与普通编程的区别
• 机器学习的应用
• 何时使用以及何时不使用机器学习
• 机器学习的类型
• 典型的机器学习项目流程
• 评估指标
• 机器学习系统的挑战

6 - 使用Scikit-Learn的经典机器学习

• 机器学习中的Scikit-Learn入门

• 用于回归的线性模型

• 用于分类的线性模型

• 支持向量机：简介及回归

• 用于分类的支持向量机

• 决策树：简介及回归

• 用于分类的决策树

• 随机森林：简介及回归

• 用于分类的随机森林

• 超越随机森林：更多集成模型

• 无监督学习入门：K均值聚类

• 主成分分析实用入门

第三部分 - 深度学习

7 - 人工神经网络与TensorFlow入门

• 人工神经网络入门

  • 为什么选择深度学习

  • 单层神经网络

  • 激活函数

  • 深度学习架构的类型

    • 密集连接网络
    • 卷积神经网络
    • 循环神经网络
    • 变压器

  • 训练深度神经网络的挑战

• 深度学习中的TensorFlow入门

  • 什么是TensorFlow？
  • TensorFlow模型API
  • TensorFlow生态系统快速导览
  • 张量的基础知识

• 使用TensorFlow的神经网络进行回归

• 使用TensorFlow的神经网络进行分类

8 - 使用TensorFlow的深度计算机视觉

• 使用卷积神经网络(CNNs)进行计算机视觉入门

  • 计算机视觉与CNNs简介
    • 什么是卷积神经网络？
    • 卷积神经网络的典型架构
  • 编码CNN：图像分类

• 针对真实世界数据和图像增强的CNN

  • 简介 - 真实世界数据集与数据增强
  • 入门：真实世界数据集与过拟合
  • 使用Keras图像增强层进行图像增强

• 使用预训练卷积神经网络进行迁移学习

  • 迁移学习的动机
  • 迁移学习简介
  • 迁移学习的典型流程
  • 使用预训练模型进行快速图像分类
  • 实践中的迁移学习与微调
  • 使用TensorFlow Hub进行快速图像分类与迁移学习

  [更新后的迁移学习笔记本可在这里找到]

9 - 使用TensorFlow的自然语言处理

• NLP与文本处理入门：使用TensorFlow

  • 自然语言处理入门
  • 使用TensorFlow进行文本处理
  • 使用TextVectorization层

• 使用词嵌入表示文本

  • 词嵌入简介
  • 嵌入的实际应用
  • 使用预训练嵌入

• 循环神经网络(RNNs)

  • 循环神经网络简介
  • 实际应用中的简单RNN：电影情感分析
  • 长短期记忆简介
  • LSTMs的实际应用：新闻分类

• 使用卷积神经网络进行文本分类

  • 卷积神经网络在文本处理中的应用简介
  • CNN在实际中的应用：新闻分类
  • 结合CNN与RNN

• 使用预训练BERT进行文本分类

  • BERT简介
  • 实际操作：微调预训练BERT

---

使用的数据集

本仓库中使用的许多数据集来自以下来源：

• UC OpenML
• Seaborn数据集
• Scikit-Learn数据集
• Kaggle
• TensorFlow数据集

---

更多机器学习资源

机器学习社区非常活跃。完整的机器学习教程可以帮助你入门，但仅靠这些还不够。幸运的是，有许多优秀的学习资源，其中一些是付费的，也有一些是免费提供的。以下是一些经常被推荐的课程列表。请注意，这些课程并没有按照学习顺序排列。

课程

• Coursera 的机器学习课程：本课程由吴恩达主讲。它是最受欢迎的机器学习课程之一，已有超过400万人参与学习。课程重点讲解机器学习技术和算法的基础知识。该课程在 Coursera 上免费开放。

• 深度学习专项课程：同样由吴恩达主讲，这是一门以基础为核心的课程。它系统介绍了卷积神经网络和循环神经网络等主要深度学习架构的基础知识。完整课程可以在 Coursera 上旁听，也可以在 YouTube 上免费观看。

• MIT 深度学习导论：本课程在相对较短的时间内提供了深度学习的基础知识。每节课时长不超过一小时，但教学内容依然处于业界顶尖水平。课程主页请见 这里，讲座视频请见 这里。

• MIT 数据中心人工智能导论：这是全球首门关于数据中心人工智能（DCAI）的课程。课程涵盖了发现并修复机器学习数据中常见问题、构建更优质数据集的算法，重点针对分类等监督学习任务中的数据。所有教学内容都极具实用性，聚焦于真实世界机器学习应用中的关键环节，而非特定模型的数学细节。通过本课程，你可以学习到大多数机器学习课程未涉及的实用技术，从而有效缓解困扰许多实际应用的“垃圾进、垃圾出”问题。课程主页请见 这里，讲座视频请见 这里，实验作业请见 这里。

• NYU 2021年春季深度学习课程：由杨立昆和阿尔弗雷多·坎齐亚尼在纽约大学授课，这是一门极具创意的课程。教学内容呈现方式非常出色。讲座视频请见 这里，课程代码库请见 这里。

• 斯坦福 CS231N：用于视觉识别的卷积神经网络：CS231N 是顶尖的深度学习与计算机视觉课程之一。2017 年版由李飞飞、贾斯汀·约翰逊和塞蕾娜·杨共同讲授。2016 年版则由李飞飞、约翰逊和安德烈·卡帕西主讲。2017 年版的讲座视频请见 这里，其他资料请见 这里。

• 斯坦福 CS224N：深度学习自然语言处理：如果你对自然语言处理感兴趣，这门课程是一个绝佳选择。课程由世界级自然语言处理专家克里斯托弗·曼宁主讲。讲座视频请见 这里。

• fast.ai 编码人员实用深度学习课程：这也是一门密集型深度学习课程，覆盖了深度学习的所有架构和技术。讲座视频以及其他资源，如 笔记本，均可在 课程页面上找到。

• 生产环境下的机器学习工程（MLOps）专项课程：由吴恩达、劳伦斯·莫罗尼和罗伯特·克劳主讲，这是顶尖的机器学习工程课程之一。课程教授如何设计端到端的机器学习生产系统，构建高效的数据与建模流水线，并将模型部署到生产环境中。你可以在 Coursera 上找到该课程，其他课程资料则可在 GitHub 上获取。

• 全栈深度学习：大多数机器学习课程专注于模型开发，而本课程则侧重于机器学习系统的落地与交付。课程教授如何规划机器学习项目、管理数据（存储、访问、处理、版本控制和标注）、训练、调试以及部署机器学习模型。2021 年版请见 这里，2019 年版请见 这里。你还可以浏览 项目展示，了解学员们通过课程所完成的成果。

书籍

以下是一些非常棒的机器学习书籍。

• 《百页机器学习书》：由Andriy Burkov撰写，这是你在互联网上能找到的最短小精悍、条理清晰且文笔优美的机器学习书籍之一。你可以在此免费阅读本书：这里。

• 《机器学习工程》：同样由Andriy Burkov撰写，这是一本优秀的机器学习书籍，深入探讨了机器学习工作流的每一个环节，从数据收集、数据预处理，一直到模型部署与维护。本书也可免费获取：这里。

• 《机器学习心法》：由吴恩达撰写，书中包含了构建高效机器学习系统的各种策略。全书被划分为多个小节，易于阅读，不仅适合机器学习工程师，任何从事数据科学和机器学习相关工作的人员都能从中受益。官方版本可在此免费获取：这里，你也可以无需注册直接在此阅读或下载：这里。

• 《动手学机器学习：使用Scikit-Learn、Keras和TensorFlow》：由Aurelion Geron撰写，这是一本顶尖的机器学习书籍之一。它语言清晰，内容丰富，充满了实用的思路和最佳实践。你可以在这里购买本书，或访问其代码库：这里。

• 《深度学习》：由三位深度学习领域的传奇人物——Ian Goodfellow、Yoshua Bengio和Aaron Courville共同撰写，这是一本极为出色的深度学习教材，目前可免费获取。你可以在这里下载。

• 《用Python进行深度学习》：由Keras的创始人François Chollet撰写，这是一本非常全面的深度学习书籍。你可以在这里购买本书，其代码库地址为：这里。

• 《深入理解深度学习》：这也是一本优秀的深度学习书籍，完全免费开放。该书同时使用PyTorch和TensorFlow作为工具。你可以在此完整阅读本书：这里。

• 《神经网络与深度学习》：这是Michael Nielsen撰写的另一本优秀的深度学习在线教材。你可以在此完整阅读本书：这里。

如果你对更多机器学习和深度学习资源感兴趣，可以在这里找到：这里、这里以及这里。

---

引用完整的机器学习工具包

@article{Nyandwi2021MLPackage,
    title = "Complete Machine Learning Package",
    author = "Nyandwi, Jean de Dieu",
    journal = "GitHub",
    year = "2021",
    url = "https://nyandwi.com/machine_learning_complete",
}

---

本仓库由Jean de Dieu Nyandwi创建。你可以在Twitter、LinkedIn、Medium以及Instagram上找到他。

machine_learning_complete 快速上手指南

machine_learning_complete 是一个全面的机器学习开源资源库，包含 35 个 Jupyter Notebook，涵盖 Python 编程、数据处理、可视化、经典机器学习、计算机视觉（CV）及自然语言处理（NLP）。本指南将帮助你快速搭建环境并运行示例。

环境准备

在开始之前，请确保你的系统满足以下要求：

• 操作系统：Windows, macOS 或 Linux
• Python 版本：推荐 Python 3.8 及以上版本
• 前置依赖：
  • pip (Python 包管理工具)
  • git (用于克隆仓库)
  • Jupyter Lab 或 Jupyter Notebook (用于运行示例代码)

核心依赖库： 本项目主要依赖以下 Python 库，安装步骤中将统一配置：

• 数据计算与分析：numpy, pandas
• 数据可视化：matplotlib, seaborn
• 经典机器学习：scikit-learn
• 深度学习：tensorflow, keras

安装步骤

1. 克隆项目仓库

打开终端（Terminal 或 CMD），运行以下命令将项目克隆到本地：

git clone https://github.com/Nyandwi/machine_learning_complete.git
cd machine_learning_complete

国内加速提示：如果访问 GitHub 速度较慢，可使用 Gitee 镜像（如有）或通过代理加速，或直接下载 ZIP 包解压。

2. 创建虚拟环境（推荐）

为了避免依赖冲突，建议创建一个独立的虚拟环境：

python -m venv ml_env

激活虚拟环境：

• Windows:

  ml_env\Scripts\activate
  

• macOS / Linux:

  source ml_env/bin/activate
  

3. 安装依赖

项目根目录通常包含 requirements.txt。如果没有，请根据 README 中提到的工具手动安装核心库。推荐使用国内镜像源（如清华源）加速安装：

pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple

若项目中无 requirements.txt，请直接运行以下命令安装核心组件：

pip install numpy pandas matplotlib seaborn scikit-learn tensorflow jupyterlab -i https://pypi.tuna.tsinghua.edu.cn/simple

基本使用

安装完成后，你可以立即开始探索 35 个教学 Notebook。

1. 启动 Jupyter Lab

在项目根目录下运行：

jupyter lab

浏览器将自动打开 Jupyter 界面。

2. 运行第一个示例

在文件浏览器中，依次进入以下目录并打开 Notebook：

• Python 基础: 0_python_for_ml/intro_to_python.ipynb
• NumPy 计算: 1_data_computations_with_numpy/ 目录下的笔记
• 机器学习入门: 5_intro_to_machine_learning/ml_fundamentals.md 或对应的 .ipynb 文件

3. 代码示例：快速体验线性回归

你可以新建一个 Notebook，复制以下代码测试环境是否配置成功（基于 Scikit-Learn）：

import numpy as np
from sklearn.linear_model import LinearRegression
from sklearn.metrics import mean_squared_error

# 1. 准备简单数据
X = np.array([[1], [2], [3], [4], [5]])
y = np.array([2, 4, 6, 8, 10])

# 2. 初始化并训练模型
model = LinearRegression()
model.fit(X, y)

# 3. 预测与评估
predictions = model.predict(X)
mse = mean_squared_error(y, predictions)

print(f"模型系数: {model.coef_}")
print(f"截距: {model.intercept_}")
print(f"均方误差 (MSE): {mse}")

如果代码顺利运行并输出结果，说明你的环境已准备就绪，可以开始深入学习仓库中的其他高级主题（如 CNN、NLP 和 MLOps）。