模式识别与机器学习 (PRML)

该项目包含了克里斯托弗·毕晓普所著《模式识别与机器学习》一书中介绍的许多算法的 Jupyter 笔记本，以及书中许多图表的复现。

讨论 (新)

如果您有任何问题和/或请求，请查看 讨论 页面！

有用的链接

• PRML 书籍
• 矩阵微积分
• 矩阵手册
• PRML勘误表
• 更多 PRML 勘误表 (仓库)

内容

.
├── README.md
├── chapter01
│   ├── einsum.ipynb
│   ├── exercises.ipynb
│   └── introduction.ipynb
├── chapter02
│   ├── Exercises.ipynb
│   ├── bayes-binomial.ipynb
│   ├── bayes-normal.ipynb
│   ├── density-estimation.ipynb
│   ├── exponential-family.ipynb
│   ├── gamma-distribution.ipynb
│   ├── mixtures-of-gaussians.ipynb
│   ├── periodic-variables.ipynb
│   ├── robbins-monro.ipynb
│   └── students-t-distribution.ipynb
├── chapter03
│   ├── bayesian-linear-regression.ipynb
│   ├── equivalent-kernel.ipynb
│   ├── evidence-approximation.ipynb
│   ├── linear-models-for-regression.ipynb
│   ├── ml-vs-map.ipynb
│   ├── predictive-distribution.ipynb
│   └── sequential-bayesian-learning.ipynb
├── chapter04
│   ├── exercises.ipynb
│   ├── fisher-linear-discriminant.ipynb
│   ├── least-squares-classification.ipynb
│   ├── logistic-regression.ipynb
│   └── perceptron.ipynb
├── chapter05
│   ├── backpropagation.ipynb
│   ├── bayesian-neural-networks.ipynb
│   ├── ellipses.ipynb
│   ├── imgs
│   │   └── f51.png
│   ├── mixture-density-networks.ipynb
│   ├── soft-weight-sharing.ipynb
│   └── weight-space-symmetry.ipynb
├── chapter06
│   ├── gaussian-processes.ipynb
│   └── kernel-regression.ipynb
├── chapter07
│   ├── relevance-vector-machines.ipynb
│   └── support-vector-machines.ipynb
├── chapter08
│   ├── exercises.ipynb
│   ├── graphical-model-inference.ipynb
│   ├── img.jpeg
│   ├── markov-random-fields.ipynb
│   ├── sum-product.ipynb
│   └── trees.ipynb
├── chapter09
│   ├── gaussian-mixture-models.ipynb
│   ├── k-means.ipynb
│   └── mixture-of-bernoulli.ipynb
├── chapter10
│   ├── exponential-mixture-gaussians.ipynb
│   ├── local-variational-methods.ipynb
│   ├── mixture-gaussians.ipynb
│   ├── variational-logistic-regression.ipynb
│   └── variational-univariate-gaussian.ipynb
├── chapter11
│   ├── adaptive-rejection-sampling.ipynb
│   ├── gibbs-sampling.ipynb
│   ├── hybrid-montecarlo.ipynb
│   ├── markov-chain-motecarlo.ipynb
│   ├── rejection-sampling.ipynb
│   ├── slice-sampling.ipynb
│   └── transformation-random-variables.ipynb
├── chapter12
│   ├── bayesian-pca.ipynb
│   ├── kernel-pca.ipynb
│   ├── ppca.py
│   ├── principal-component-analysis.ipynb
│   └── probabilistic-pca.ipynb
├── chapter13
│   ├── em-hidden-markov-model.ipynb
│   ├── hidden-markov-model.ipynb
│   └── linear-dynamical-system.ipynb
├── chapter14
│   ├── CART.ipynb
│   ├── boosting.ipynb
│   ├── cmm-linear-regression.ipynb
│   ├── cmm-logistic-regression.ipynb
│   └── tree.py
└── misc
    └── tikz
        ├── ch13-hmm.tex
        └── ch8-sum-product.tex

17 directories, 73 files

PRML 快速上手指南

prml 是一个开源项目，复现了 Christopher Bishop 经典著作《Pattern Recognition and Machine Learning》（PRML）中的核心算法与图表。所有代码均以 Jupyter Notebook 形式提供，适合机器学习学习者通过交互式方式深入理解理论推导与实现细节。

环境准备

本项目基于 Python 生态，主要依赖以下组件：

• 操作系统：Linux, macOS 或 Windows
• Python 版本：推荐 Python 3.8 及以上
• 核心依赖：
  • jupyter / jupyterlab
  • numpy, scipy, matplotlib
  • scikit-learn (部分章节使用)
  • pandas

提示：建议使用 Anaconda 或 Miniconda 管理环境。国内用户可使用清华源加速安装。

安装步骤

1. 克隆项目仓库

   git clone https://github.com/gerdm/prml.git
   cd prml
   

2. 创建并激活虚拟环境

   conda create -n prml python=3.9
   conda activate prml
   

3. 安装依赖包

   若项目根目录包含 requirements.txt，请直接运行：

   pip install -r requirements.txt
   

   若无该文件，请手动安装核心依赖（推荐使用国内镜像源）：

   pip install jupyter numpy scipy matplotlib scikit-learn pandas -i https://pypi.tuna.tsinghua.edu.cn/simple
   

4. 启动 Jupyter Notebook

   jupyter notebook
   

   浏览器将自动打开，进入项目目录即可看到按章节分类的 .ipynb 文件。

基本使用

项目内容按书籍章节组织，每个 Notebook 独立演示特定算法或习题。

示例：运行第一章引言笔记

1. 在 Jupyter 界面中导航至 chapter01 文件夹。
2. 点击打开 introduction.ipynb。
3. 依次选中代码单元格，按 Shift + Enter 执行，即可复现书中的多项式拟合曲线及误差分析图表。

示例：探索高斯混合模型 (GMM)

1. 导航至 chapter09 文件夹。
2. 打开 gaussian-mixture-models.ipynb。
3. 运行单元格观察 EM 算法迭代过程及聚类效果可视化。

你可以自由修改代码中的参数（如数据点数量、噪声水平、迭代次数等），实时观察算法行为变化，从而加深对 PRML 理论的理解。