Rumale

Rumale（Ruby machine learning）是 Ruby 中的一个机器学习库。 Rumale 提供了与 Python 中的 Scikit-Learn 类似的接口的机器学习算法。 Rumale 支持支持向量机、逻辑回归、岭回归、Lasso 回归、多层感知器、朴素贝叶斯、决策树、梯度提升树、随机森林、K-均值聚类、高斯混合模型、DBSCAN、谱聚类、多维尺度分析、t-SNE、费舍尔判别分析、邻域成分分析、主成分分析、非负矩阵分解等众多算法。

注意：自 v2.0.0 版本起，Rumale 使用 Numo::NArray Alternative 作为依赖项，而非 Numo::NArray。

安装

将以下行添加到您的应用程序的 Gemfile 中：

gem 'rumale'

然后执行：

$ bundle

或者直接安装：

$ gem install rumale

文档

• Rumale API 文档

使用

示例 1. Pendigits 数据集分类

Rumale 提供了加载 libsvm 格式数据集文件的函数。我们首先从 LIBSVM Data 网站下载 pendigits 数据集。

$ wget https://www.csie.ntu.edu.tw/~cjlin/libsvmtools/datasets/multiclass/pendigits
$ wget https://www.csie.ntu.edu.tw/~cjlin/libsvmtools/datasets/multiclass/pendigits.t

使用线性 SVM 和 RBF 核特征映射训练分类器的代码如下：

require 'rumale'

# 加载训练数据集。
samples, labels = Rumale::Dataset.load_libsvm_file('pendigits')

# 将训练数据映射到 RBF 核特征空间。
transformer = Rumale::KernelApproximation::RBF.new(gamma: 0.0001, n_components: 1024, random_seed: 1)
transformed = transformer.fit_transform(samples)

# 训练线性 SVM 分类器。
classifier = Rumale::LinearModel::SVC.new(reg_param: 0.0001)
classifier.fit(transformed, labels)

# 保存模型。
File.open('transformer.dat', 'wb') { |f| f.write(Marshal.dump(transformer)) }
File.open('classifier.dat', 'wb') { |f| f.write(Marshal.dump(classifier)) }

使用训练好的分类器对测试数据进行分类的代码如下：

require 'rumale'

# 加载测试数据集。
samples, labels = Rumale::Dataset.load_libsvm_file('pendigits.t')

# 加载模型。
transformer = Marshal.load(File.binread('transformer.dat'))
classifier = Marshal.load(File.binread('classifier.dat'))

# 将测试数据映射到 RBF 核特征空间。
transformed = transformer.transform(samples)

# 对测试数据进行分类并评估预测结果。
puts("Accuracy: %.1f%%" % (100.0 * classifier.score(transformed, labels)))

# 其他评估方法
# results = classifier.predict(transformed)
# evaluator = Rumale::EvaluationMeasure::Accuracy.new
# puts("Accuracy: %.1f%%" % (100.0 * evaluator.score(results, labels)))

运行上述脚本的结果如下：

$ ruby train.rb
$ ruby test.rb
Accuracy: 98.5%

示例 2. 交叉验证

require 'rumale'

# 加载数据集。
samples, labels = Rumale::Dataset.load_libsvm_file('pendigits')

# 定义要评估的估计器。
lr = Rumale::LinearModel::LogisticRegression.new

# 定义评估指标、划分策略和交叉验证。
ev = Rumale::EvaluationMeasure::Accuracy.new
kf = Rumale::ModelSelection::StratifiedKFold.new(n_splits: 5, shuffle: true, random_seed: 1)
cv = Rumale::ModelSelection::CrossValidation.new(estimator: lr, splitter: kf, evaluator: ev)

# 进行 5 折交叉验证。
report = cv.perform(samples, labels)

# 输出结果。
mean_accuracy = report[:test_score].sum / kf.n_splits
puts "5-CV mean accuracy: %.1f%%" % (100.0 * mean_accuracy)

运行上述脚本的结果如下：

$ ruby cross_validation.rb
5-CV mean accuracy: 95.5%

加速

Numo::Linalg Alternative

Rumale 使用 Numo::NArray Alternative 来处理类型化数组。 加载 Numo::Linalg Alterntaive 后，可以使用 OpenBLAS 库来执行 Numo::NArray Alternative 的矩阵和向量乘法。 一些机器学习算法经常需要计算矩阵和向量乘法，因此这些算法的执行速度有望得到提升。

安装 Numo::Linalg Alternative gem。

$ gem install numo-linalg-alt

在 Ruby 脚本中，只需同时加载 Numo::Linalg 和 Rumale 即可。

require 'numo/linalg'
require 'rumale'

并行

Rumale 中的几个估计器支持并行处理。 Rumale 中的并行处理由 Parallel gem 实现，因此需要先安装并加载它。

$ gem install parallel

require 'parallel'
require 'rumale'

支持并行处理的估计器具有 n_jobs 参数。当将 -1 赋值给 n_jobs 参数时，将使用所有处理器。

estimator = Rumale::Ensemble::RandomForestClassifier.new(n_jobs: -1, random_seed: 1)

相关项目

• Rumale::SVM 提供了基于 LIBSVM 和 LIBLINEAR 的支持向量机算法，并通过 Rumale 接口实现。
• Rumale::Torch 提供了使用 torch.rb 定义的神经网络进行学习和推理的功能，并通过 Rumale 接口实现。

许可证

该 gem 以开源形式提供，遵循 BSD-3-Clause 许可证 的条款。

Rumale 快速上手指南

Rumale 是一个用 Ruby 编写的机器学习库，提供类似于 Python Scikit-Learn 的接口。它支持 SVM、逻辑回归、随机森林、K-Means、PCA 等多种经典算法。

环境准备

• 系统要求: 支持 Ruby 的运行环境（Linux, macOS, Windows）。
• Ruby 版本: 建议使用较新的稳定版 Ruby。
• 核心依赖:
  • Rumale v2.0.0+ 默认使用 Numo::NArray Alternative 作为数值计算后端，无需手动安装旧版 Numo::NArray。
• 可选加速依赖 (推荐生产环境安装):
  • numo-linalg-alt: 利用 OpenBLAS 加速矩阵运算。
  • parallel: 启用多核并行处理（如随机森林等算法）。

安装步骤

1. 基础安装

将以下行添加到项目的 Gemfile 中：

gem 'rumale'

然后执行：

$ bundle

或者直接全局安装：

$ gem install rumale

2. 性能加速（可选）

为了获得更快的运行速度和并行处理能力，建议安装以下扩展库：

$ gem install numo-linalg-alt
$ gem install parallel

在代码中引入即可自动生效：

require 'numo/linalg'
require 'parallel'
require 'rumale'

基本使用

以下示例演示如何加载数据、训练线性 SVM 分类器并进行预测。

1. 准备数据

首先下载示例数据集（pendigits）：

$ wget https://www.csie.ntu.edu.tw/~cjlin/libsvmtools/datasets/multiclass/pendigits
$ wget https://www.csie.ntu.edu.tw/~cjlin/libsvmtools/datasets/multiclass/pendigits.t

2. 训练模型

创建 train.rb 文件，包含以下代码：

require 'rumale'

# 加载训练数据集 (LIBSVM 格式)
samples, labels = Rumale::Dataset.load_libsvm_file('pendigits')

# 将数据映射到 RBF 核特征空间
transformer = Rumale::KernelApproximation::RBF.new(gamma: 0.0001, n_components: 1024, random_seed: 1)
transformed = transformer.fit_transform(samples)

# 训练线性 SVM 分类器
classifier = Rumale::LinearModel::SVC.new(reg_param: 0.0001)
classifier.fit(transformed, labels)

# 保存模型
File.open('transformer.dat', 'wb') { |f| f.write(Marshal.dump(transformer)) }
File.open('classifier.dat', 'wb') { |f| f.write(Marshal.dump(classifier)) }

运行训练脚本：

$ ruby train.rb

3. 预测与评估

创建 test.rb 文件，加载模型并测试：

require 'rumale'

# 加载测试数据集
samples, labels = Rumale::Dataset.load_libsvm_file('pendigits.t')

# 加载已保存的模型
transformer = Marshal.load(File.binread('transformer.dat'))
classifier = Marshal.load(File.binread('classifier.dat'))

# 转换测试数据特征
transformed = transformer.transform(samples)

# 预测并输出准确率
puts("Accuracy: %.1f%%" % (100.0 * classifier.score(transformed, labels)))

运行测试脚本：

$ ruby test.rb

预期输出结果类似：

Accuracy: 98.5%

进阶提示：并行处理

对于支持并行的算法（如随机森林），可通过设置 n_jobs 参数利用多核 CPU：

# 使用所有可用处理器 (-1)
estimator = Rumale::Ensemble::RandomForestClassifier.new(n_jobs: -1, random_seed: 1)