机器学习教程

这是一个包含独立 Python 示例的机器学习算法集合。运行特定的示例以查看其用法和结果。欢迎贡献新的示例（建议示例代码量适中，并包含使用说明）。

多臂老虎机问题 (MAB)

• ε-贪婪算法 (recipes/MAB/greedy.py)

  萨顿, 理查德·S., 巴托, 安德鲁·G.《强化学习：导论》，麻省理工学院出版社，剑桥，马萨诸塞州（1998年）。

• Softmax 策略 (recipes/MAB/softmax.py)

  卢斯, R. 邓肯.（1963）.“检测与识别”。载于卢斯, R. 邓坎、布什, 罗伯特·R. 和 加兰特, 尤金（编）, “数学心理学手册”（第1卷），纽约：威利出版社。

• 汤普森采样 (recipes/MAB/thompson.py)

  汤普森, 威廉·R. 根据两个样本的证据，一个未知概率超过另一个的概率。生物计量学，25(3–4):285–294，1933年。DOI: 10.2307/2332286

• 上置信界算法 (recipes/MAB/ucb.py)

  赖, T.L. 和 罗宾斯, 赫伯特，《渐近有效的自适应分配规则》，应用数学进展6:1，（1985年）DOI: 10.1016/0196-8858(85)90002-8

人工神经网络 (ANN)

• 自适应共振理论 (recipes/ANN/art.py)

  格罗斯伯格, 斯蒂芬（1987）。“竞争性学习：从交互激活到适应性共振”，认知科学，11，23-63页。

• 回声状态网络 (recipes/ANN/esn.py)

  雅格尔, 赫伯特（2001）“回声状态”方法用于分析和训练递归神经网络。GMD 报告 148，德国国家计算机科学研究机构。

• 简单递归网络 (recipes/ANN/srn.py)

  埃尔曼, 杰弗里 L.（1990）.“在时间中寻找结构”。认知科学，14:179–211页。

• 长短期记忆网络 (nicodjimenez/lstm)

  霍克赖特, 塞普 和 施密德胡伯, 尤尔根（1997）“长短期记忆”，神经计算第9卷，1735-1780页。

• 多层感知器 (recipes/ANN/mlp.py)

  鲁梅尔哈特, 大卫 E., 辛顿, 吉福德 E. 和 威廉姆斯, 罗纳德 J. “通过误差反向传播学习内部表示”。鲁梅尔哈特, 大卫 E., 麦克莱伦德, 詹姆斯 L. 以及 PDP 研究小组（编辑）。并行分布式处理：认知微观结构探索，第1卷：基础。麻省理工学院出版社，1986年。

• 感知器 (recipes/ANN/perceptron.py)

  罗森布拉特, 弗兰克（1958），“感知器：大脑中信息存储与组织的概率模型”，康奈尔航空实验室，心理评论，第65卷，第6期，pp. 386–408。DOI:10.1037/h0042519

• 核感知器 (recipes/ANN/kernel-perceptron.py)

  艾泽曼, M. A., 布拉韦尔曼, E. A. 和 罗佐诺尔, L.. “模式识别学习中势函数方法的理论基础”。论文发表于自动化与远程控制会议，1964年。

• 投票感知器 (recipes/ANN/voted-perceptron.py)

  Y. 弗伦德, R. E. 施皮雷。“基于感知器算法的大间隔分类”。载于第11届计算学习理论年会，纽约，纽约，209-217页，1998年。DOI:10.1023/A:1007662407062

• 自组织映射 (recipes/ANN/som.py)

  科霍宁, 特乌沃。自组织与联想记忆。施普林格出版社，柏林，1984年。

马尔可夫决策过程 (MDP)

• 值迭代 (recipes/MDP/value-iteration.py)

  贝尔曼, 理查德（1957）.“马尔可夫决策过程”。数学与力学杂志，第6期。

降维 (DR)

• 主成分分析 (recipes/DR/pca.py)

  皮尔逊, K.（1901）.“关于空间点系的最佳拟合直线与平面”。哲学杂志，2(11):559–572页。DOI:10.1080/14786440109462720

• 特征脸 (recipes/DR/eigenface.py)

  M. 特克 & A. 彭特兰（1991）“用于识别的特征脸”。认知神经科学杂志，3(1):71-86页。DOI:10.1162/jocn.1991.3.1.71

• 经典多维尺度分析 (recipes/DR/classical_mds.py)

  W.S. 托格森（1952）“多维尺度分析：I. 理论与方法”。心理测量学，17:401-419页。DOI:10.1007/BF02288916

ML-Recipes 快速上手指南

ML-Recipes 是一个独立的机器学习算法 Python 示例集合。每个“食谱”都是一个可单独运行的脚本，旨在展示特定算法的核心用法与结果，适合学习与参考。

环境准备

• 操作系统：Linux, macOS 或 Windows
• Python 版本：推荐 Python 3.6+
• 前置依赖：
  • numpy (数值计算)
  • matplotlib (部分示例用于绘图，可选)
  • scikit-learn (部分示例可能依赖其数据集工具，可选)

安装步骤

本项目无需复杂的安装过程，只需克隆仓库并安装基础依赖即可。

1. 克隆仓库

   git clone https://github.com/zygmuntz/ml-recipes.git
   cd ml-recipes
   

2. 安装依赖 建议使用国内镜像源加速安装（如清华源）：

   pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
   

   注：如果项目中没有 requirements.txt 文件，请直接安装核心库：

   pip install numpy matplotlib scikit-learn -i https://pypi.tuna.tsinghua.edu.cn/simple
   

基本使用

每个算法对应一个独立的 Python 脚本。直接进入对应的子目录运行脚本即可查看演示结果。

示例 1：运行多臂老虎机 (Multi-armed Bandit)

尝试 Epsilon Greedy 策略：

cd recipes/MAB
python greedy.py

示例 2：运行人工神经网络 (ANN)

尝试 感知机 (Perceptron) 算法：

cd recipes/ANN
python perceptron.py

示例 3：运行降维算法 (Dimensionality Reduction)

尝试 主成分分析 (PCA)：

cd recipes/DR
python pca.py

提示：运行脚本后，终端通常会输出算法的训练过程、最终权重或准确率，部分脚本会弹出窗口展示可视化图表。你可以直接阅读源码中的注释来理解具体实现逻辑。