🤖⚡ scikit-learn 小贴士

新小贴士会发布在 LinkedIn、Twitter 和 Facebook 上。

👉 立即注册，每周通过电子邮件收到 2 条视频小贴士！ 👈

所有小贴士列表

点击 在 LinkedIn 上讨论该小贴士，点击 查看某条小贴士的 Jupyter 笔记本，或点击 在 YouTube 上观看该小贴士的视频：

#	Description	Links
1	Use ColumnTransformer to apply different preprocessing to different columns
2	Seven ways to select columns using ColumnTransformer
3	What is the difference between "fit" and "transform"?
4	Use "fit_transform" on training data, but "transform" (only) on testing/new data
5	Four reasons to use scikit-learn (not pandas) for ML preprocessing
6	Encode categorical features using OneHotEncoder or OrdinalEncoder
7	Handle unknown categories with OneHotEncoder by encoding them as zeros
8	Use Pipeline to chain together multiple steps
9	Add a missing indicator to encode "missingness" as a feature
10	Set a "random_state" to make your code reproducible
11	Impute missing values using KNNImputer or IterativeImputer
12	What is the difference between Pipeline and make_pipeline?
13	Examine the intermediate steps in a Pipeline
14	HistGradientBoostingClassifier natively supports missing values
15	Three reasons not to use drop='first' with OneHotEncoder
16	Use cross_val_score and GridSearchCV on a Pipeline
17	Try RandomizedSearchCV if GridSearchCV is taking too long
18	Display GridSearchCV or RandomizedSearchCV results in a DataFrame
19	Important tuning parameters for LogisticRegression
20	Plot a confusion matrix
21	Compare multiple ROC curves in a single plot
22	Use the correct methods for each type of Pipeline
23	Display the intercept and coefficients for a linear model
24	Visualize a decision tree two different ways
25	Prune a decision tree to avoid overfitting
26	Use stratified sampling with train_test_split
27	Two ways to impute missing values for a categorical feature
28	Save a model or Pipeline using joblib
29	Vectorize two text columns in a ColumnTransformer
30	Four ways to examine the steps of a Pipeline
31	Shuffle your dataset when using cross_val_score
32	Use AUC to evaluate multiclass problems
33	Use FunctionTransformer to convert functions into transformers
34	Add feature selection to a Pipeline
35	Don't use .values when passing a pandas object to scikit-learn
36	Most parameters should be passed as keyword arguments
37	Create an interactive diagram of a Pipeline in Jupyter
38	Get the feature names output by a ColumnTransformer
39	Load a toy dataset into a DataFrame
40	Estimators only print parameters that have been changed
41	Drop the first category from binary features (only) with OneHotEncoder
42	Passthrough some columns and drop others in a ColumnTransformer
43	Use OrdinalEncoder instead of OneHotEncoder with tree-based models
44	Speed up GridSearchCV using parallel processing
45	Create feature interactions using PolynomialFeatures
46	Ensemble multiple models using VotingClassifer or VotingRegressor
47	Tune the parameters of a VotingClassifer or VotingRegressor
48	Access part of a Pipeline using slicing
49	Tune multiple models simultaneously with GridSearchCV
50	Adapt this pattern to solve many Machine Learning problems

您可以使用 Binder 在线交互式地运行所有这些笔记本：点击此处

注意： 有些技巧不包含代码，只能在 LinkedIn 上查看。

这些技巧是由谁创作的？

你好！我是凯文·马卡姆，Data School 的创始人。自 2014 年以来，我一直教授 Python 数据科学课程。我创建这些技巧是因为我非常喜欢使用 scikit-learn，并希望帮助更多人更高效地运用它。

我该如何提升自己对 scikit-learn 的掌握水平？

我开设了三门课程：

• 课程 1： 使用 scikit-learn 学习 Python 机器学习入门（4 小时，免费）
• 课程 2： 使用 scikit-learn 构建高效的机器学习工作流（8 小时，付费）
• 课程 3： Python 文本机器学习（14 小时，付费）

👉 立即了解哪门课程最适合您！ 👈

您还有其他技巧吗？

有的！2019 年，我发布了 100 个 pandas 技巧。此外，我还制作了一段视频，分享了我的 pandas 前 25 大技巧。

© 2020–2021 Data School。保留所有权利。

scikit-learn-tips 快速上手指南

scikit-learn-tips 是由 Data School 创始人 Just Markham 维护的开源项目，旨在通过简短的代码示例、视频和文章，分享 scikit-learn 机器学习库的高效使用技巧。本项目主要包含一系列 Jupyter Notebook 教程，涵盖数据预处理、管道构建、超参数调优等核心主题。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Windows、macOS 或 Linux
• Python 版本：推荐 Python 3.8 及以上版本
• 核心依赖：
  • scikit-learn (机器学习库)
  • pandas (数据处理)
  • jupyter 或 jupyterlab (用于运行 Notebook 教程)
  • matplotlib / seaborn (用于可视化示例)

安装步骤

1. 克隆项目代码

首先，从 GitHub 克隆仓库到本地：

git clone https://github.com/justmarkham/scikit-learn-tips.git
cd scikit-learn-tips

2. 安装依赖包

建议使用虚拟环境（如 venv 或 conda）以避免冲突。

使用 pip 安装（推荐国内用户配置清华源加速）：

# 基础依赖安装
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple scikit-learn pandas jupyter matplotlib seaborn

# 或者如果项目根目录有 requirements.txt (如有)
# pip install -i https://pypi.tuna.tsinghua.edu.cn/simple -r requirements.txt

使用 conda 安装：

conda create -n sktips python=3.9
conda activate sktips
conda install -c conda-forge scikit-learn pandas jupyterlab matplotlib seaborn

基本使用

本项目不像传统库那样通过 import 直接调用功能，而是通过运行提供的 Jupyter Notebook 文件来学习具体技巧。

1. 启动 Jupyter Lab

在项目根目录下启动服务：

jupyter lab

(或者使用 jupyter notebook)

2. 浏览与运行教程

浏览器会自动打开界面，进入 notebooks 文件夹。您可以根据需求选择对应的 .ipynb 文件进行学习。

示例：学习如何使用 ColumnTransformer (Tip #1)

1. 点击打开 01_column_transformer.ipynb。
2. 按顺序执行单元格代码。以下是该技巧的核心逻辑示例（可直接在 Python 脚本中复用）：

from sklearn.compose import ColumnTransformer
from sklearn.preprocessing import StandardScaler, OneHotEncoder
from sklearn.pipeline import Pipeline
from sklearn.linear_model import LogisticRegression
import pandas as pd

# 假设有一个包含数值型和分类型特征的数据集
# X 为特征数据，y 为目标变量

# 定义预处理步骤
preprocessor = ColumnTransformer(
    transformers=[
        ('num', StandardScaler(), ['age', 'salary']),       # 对数值列标准化
        ('cat', OneHotEncoder(), ['city', 'gender'])        # 对分类列独热编码
    ])

# 将预处理与模型串联成管道
clf = Pipeline(steps=[
    ('preprocessing', preprocessor),
    ('model', LogisticRegression())
])

# 训练模型 (fit 会自动处理不同列的不同变换)
clf.fit(X, y)

# 预测新数据
predictions = clf.predict(X_new)

3. 查看视频讲解

每个 Notebook 表格行中都提供了 YouTube 视频链接（图标 ），建议结合视频观看以获得更直观的理解。由于网络原因，国内用户可能需要借助网络工具访问，或直接阅读 Notebook 中的代码注释和文字说明。

---

提示：该项目持续更新，建议定期 git pull 获取最新的技巧教程。