统计学习导论

本仓库包含了《统计学习导论》一书中的习题及其解答。

《统计学习导论》是数据科学家学习机器学习算法背后概念与直觉的最受欢迎书籍之一。然而，书中提供的习题是以R语言实现的，这对使用Python语言的学习者来说是一个障碍。为了克服这一问题，我尝试用Python语言解答了所有实践习题，以便使用Python的读者也能充分利用这本优秀的书籍。此外，我还提供了概念性问题的答案。

我已尽力编写正确的解题方案，这对我来说是一项挑战，需要进行大量的研究。但我不能保证所有答案都绝对正确。每个笔记本中我都添加了注释。

如果您有任何疑问，请随时反馈。欢迎提出建议和更正。

我的邮箱是：hardikkamboj1@gmail.com

祝学习愉快！

统计学习导论

• 第2章 统计学习
• 第3章 线性回归
• 第4章 分类
• 第5章 重采样方法
• 第6章 线性模型选择与正则化
• 第7章 超越线性
• 第8章 基于树的方法
• 第9章 支持向量机
• 第10章 无监督学习

参考文献

• https://botlnec.github.io/islp/
• https://github.com/a-martyn/ISL-python
• https://github.com/mscaudill/IntroStatLearn

An-Introduction-to-Statistical-Learning 快速上手指南

本仓库提供了经典教材《统计学习导论》（ISLR）中所有练习题的 Python 实现方案及概念题解答，旨在帮助习惯使用 Python 的数据科学家和开发者深入理解机器学习算法背后的直觉与概念。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Windows, macOS 或 Linux
• Python 版本：推荐 Python 3.8 及以上版本
• 核心依赖库：
  • pandas (数据处理)
  • numpy (数值计算)
  • scikit-learn (机器学习算法实现)
  • matplotlib / seaborn (数据可视化)
  • statsmodels (统计建模，部分章节需要)
  • jupyter (用于运行提供的 .ipynb 笔记本文件)

提示：国内用户建议使用清华源或阿里源加速包安装过程。

安装步骤

1. 克隆项目代码

打开终端或命令行工具，执行以下命令将仓库克隆到本地：

git clone https://github.com/hardikkamboj/An-Introduction-to-Statistical-Learning.git
cd An-Introduction-to-Statistical-Learning

2. 安装依赖

推荐使用虚拟环境（如 venv 或 conda）隔离依赖。以下是使用 pip 安装必要库的命令（已配置国内镜像加速）：

pip install -i https://pypi.tuna.tsinghua.edu.cn/simple pandas numpy scikit-learn matplotlib seaborn statsmodels jupyter

或者，如果项目根目录包含 requirements.txt 文件，可直接运行：

pip install -i https://pypi.tuna.tsinghua.edu.cn/simple -r requirements.txt

3. 启动 Jupyter Notebook

进入任意章节目录（例如第 2 章），启动 Notebook 服务：

cd Chapter_2
jupyter notebook

基本使用

本项目按书籍章节组织，每个章节文件夹下包含应用题（Applied Questions）的代码实现。

最简单的使用示例

以 第 2 章：统计学习基础 (Chapter_2_Statistical_Learning) 为例：

1. 导航至章节目录： 在文件浏览器或终端中进入 Chapter_2/Applied Questions.ipynb 所在路径。

2. 打开并运行笔记本： 在 Jupyter 界面点击 Applied Questions.ipynb。

3. 代码执行逻辑： 笔记本中已预置了数据加载、模型训练及结果分析的完整代码。您只需按顺序点击单元格旁的 Run 按钮（或按 Shift + Enter）即可复现书中练习。

   典型代码片段示例（数据加载与线性回归）：

   import pandas as pd
   from sklearn.linear_model import LinearRegression
   import matplotlib.pyplot as plt
   
   # 加载数据集 (以 Auto 数据集为例)
   df = pd.read_csv('Auto.csv', na_values='?')
   df = df.dropna()
   
   # 准备特征与目标变量
   X = df[['horsepower']]
   y = df['mpg']
   
   # 拟合线性回归模型
   model = LinearRegression()
   model.fit(X, y)
   
   # 输出系数
   print(f"Intercept: {model.intercept_}")
   print(f"Coefficient: {model.coef_[0]}")
   
   # 可视化结果
   plt.scatter(X, y, color='blue')
   plt.plot(X, model.predict(X), color='red')
   plt.xlabel('Horsepower')
   plt.ylabel('MPG')
   plt.show()
   

4. 探索其他章节： 按照相同方式，您可以依次探索 Chapter_3 (线性回归) 到 Chapter_10 (无监督学习) 的内容，逐步掌握从基础回归到支持向量机、聚类等高级算法的 Python 实现。

注意：作者已在 Notebook 中添加了详细注释。如果您发现任何错误或有任何改进建议，可通过邮件 hardikkamboj1@gmail.com 联系作者。