MATLAB/Octave 中的机器学习

如需本仓库的 Python/Jupyter 版本，请查看 homemade-machine-learning 项目。

此仓库包含流行的机器学习算法的 MATLAB/Octave 示例，并对代码示例及其背后的数学原理进行了详细解释。

本仓库的目的 并非 使用第三方库或 MATLAB/Octave 的“一行代码”来实现机器学习算法，而是为了实践并更好地理解每个算法背后的数学原理。在大多数情况下，这些解释都基于 这门优秀的 机器学习课程。

监督学习

在监督学习中，我们有一组训练数据作为输入，以及与每条训练数据对应的标签或“正确答案”作为输出。然后，我们会训练模型（即机器学习算法的参数），使其能够正确地将输入映射到输出（做出准确的预测）。最终目标是找到一组模型参数，使得该模型即使面对新的输入示例也能继续进行正确的输入→输出映射（预测）。

回归

在回归问题中，我们进行的是实数值预测。本质上，我们试图通过训练样本拟合一条直线、平面或更高维的超平面。

应用示例：股票价格预测、销售分析、任意数量之间的依赖关系等。

🤖 线性回归 - 示例：房屋价格预测。

分类

在分类问题中，我们根据某些特征将输入示例划分到不同的类别中。

应用示例：垃圾邮件过滤器、语言检测、相似文档查找、手写数字识别等。

🤖 逻辑回归 - 示例：微芯片合格性检测、使用一对多方法的手写数字识别。

无监督学习

无监督学习是机器学习的一个分支，它从未被标记、分类或归类的数据中学习。与需要反馈的监督学习不同，无监督学习会识别数据中的共性，并根据新数据中是否存在这些共性来作出反应。

聚类

在聚类问题中，我们根据未知的特征将训练样本划分为不同的簇。具体使用哪个特征进行划分由算法自行决定。

应用示例：市场细分、社交网络分析、计算集群的组织、天文数据分析、图像压缩等。

🤖 K-均值算法 - 示例：将数据划分为三个簇。

异常检测

异常检测（也称为离群点检测）是指识别那些与大部分数据显著不同的稀有项、事件或观测值，从而引起怀疑。

应用示例：入侵检测、欺诈检测、系统健康监测、从数据集中移除异常数据等。

🤖 基于高斯分布的异常检测 - 示例：检测服务器过载。

神经网络 (NN)

神经网络本身并不是一种算法，而是一个框架，用于让多种不同的机器学习算法协同工作，以处理复杂的数据输入。

应用示例：通常可替代其他所有算法、图像识别、语音识别、图像风格化处理、语言翻译等。

🤖 神经网络：多层感知机 (MLP) - 示例：手写数字识别。

机器学习地图

以下机器学习主题地图的来源是 这篇精彩的博客文章。

如何使用本仓库

安装 Octave 或 MATLAB

本仓库包含 *.m 脚本文件，旨在在 Octave 或 MATLAB 中运行。因此，要运行演示程序，您需要在本地计算机上安装 Octave 或 MATLAB。如果您使用 MATLAB，也可以选择其 网页版。

运行演示

要运行您选择的演示，首先切换到相应的文件夹（例如 neural-network）：

cd neural-network

然后启动 Octave 控制台：

octave

在 Octave 控制台中运行演示脚本：

demo

要查看所有演示变量，可以运行：

whos

要退出演示，可以运行：

exit

请注意，演示脚本还会打开一个额外的窗口，显示与当前运行算法相关的图表和其他图形信息。每个机器学习算法的专用 README 文件中都提供了该窗口的截图，供您参考。

Machine Learning in Octave/MatLab 快速上手指南

本仓库提供了基于 MatLab/Octave 的流行机器学习算法实现，重点在于通过代码演示算法背后的数学原理，而非调用第三方库。内容涵盖监督学习、无监督学习及神经网络等核心主题。

环境准备

系统要求

• 操作系统：Windows / macOS / Linux
• 运行环境：需安装 GNU Octave（推荐，开源免费）或 MATLAB。

前置依赖

• 无需额外的 Python 包或复杂依赖库。
• 确保已安装图形界面支持（用于显示算法运行的图表），若在无头服务器运行需配置虚拟显示。

国内加速建议：

• Octave: 国内用户可通过清华镜像源下载预编译包，或使用包管理器安装：
  • Ubuntu/Debian: sudo apt-get install octave (通常源内已有)
  • Windows/macOS: 访问 清华大学开源软件镜像站 搜索 "Octave" 获取安装包。
• MATLAB: 如需使用网页版，可直接访问 MATLAB Online (需 MathWorks 账号)。

安装步骤

本仓库无需传统意义上的“安装”，只需克隆代码并确保本地已安装 Octave 或 MATLAB。

1. 克隆仓库

   git clone https://github.com/trekhleb/machine-learning-octave.git
   cd machine-learning-octave
   

2. 验证环境 在终端输入以下命令确认 Octave 已就绪：

   octave --version
   

基本使用

以下以运行 神经网络 (Neural Network) 示例为例，展示如何启动演示。

1. 进入示例目录

选择你想要运行的算法文件夹，例如 neural-network：

cd neural-network

2. 启动 Octave 控制台

在当前目录下运行：

octave

3. 运行演示脚本

在 Octave 交互界面中输入：

demo

注：脚本执行后会自动弹出新窗口，展示训练过程中的图表和可视化结果（如手写数字识别效果）。

4. 查看变量与退出

• 查看当前工作区的所有变量：

  whos
  

• 退出 Octave 控制台：

  exit
  

你可以参照上述步骤，进入 linear-regression、k-means 或其他文件夹运行对应的 demo 脚本来探索不同算法。每个算法文件夹下的 README 文件均包含该特定示例的详细图表预览和数学解释。