这是 Vowpal Wabbit 快速在线学习代码。

为什么选择 Vowpal Wabbit？

Vowpal Wabbit 是一个机器学习系统，它通过在线学习、哈希技术、allreduce、规约方法、learning2search、主动学习和交互式学习等技术，不断推动机器学习的前沿发展。该系统特别关注强化学习，实现了多种上下文 bandit 算法，并且其在线特性非常适合此类问题。Vowpal Wabbit 是实现和成熟最先进算法的理想平台，同时兼顾性能表现。

• 输入格式。 该学习算法的输入格式比预期的要灵活得多。示例可以包含由自由文本组成的特征，这些特征以词袋方式被解释。甚至可以在不同的命名空间中包含多组自由文本。
• 速度。 该学习算法的速度很快——与市面上为数不多的其他在线算法实现相当。系统提供了多种优化算法，其中默认的是基于损失函数的稀疏梯度下降（GD）。
• 可扩展性。 这与“速度快”不同。这里的关键特性是程序的内存占用量与数据规模无关。这意味着在开始训练之前，无需将整个训练集加载到主内存中。此外，通过使用哈希技巧，特征集的大小也与训练数据量无关。
• 特征交互。 特征子集可以在内部进行配对，从而使算法的复杂度与这些子集的交叉乘积呈线性关系。这对于排序问题非常有用。相比之下，如果在将特征输入学习算法之前显式地展开它们，则可能会在计算和存储空间上都变得非常昂贵，具体取决于处理方式。

访问维基以了解更多信息。

入门指南

有关在 Windows、MacOS 或 Linux 上入门的最新说明，请参阅 维基页面。其中包括：

• 使用包管理器安装
• 构建
• 教程

示例与演示

• demo/ - 按 VW 功能组织的命令行演示和实验
• python/docs/source/examples/ - Python Jupyter 笔记本示例
• python/docs/source/tutorials/ - Python 和 CLI 教程

Vowpal Wabbit 快速上手指南

Vowpal Wabbit (VW) 是一个高性能的在线机器学习系统，专注于速度、可扩展性和强化学习（如上下文多臂老虎机算法）。它支持哈希技巧、特征交互和归约算法，能够在内存占用恒定的情况下处理海量数据。

环境准备

系统要求

Vowpal Wabbit 支持主流操作系统：

• Linux (推荐用于生产环境)
• macOS
• Windows (需通过 vcpkg 或 WSL)

前置依赖

构建源码通常需要以下基础开发工具（包管理器安装方式见下文）：

• C++ 编译器 (GCC, Clang, 或 MSVC)
• CMake (版本 3.15+)
• Boost 库
• zlib 和 libzip (用于压缩数据支持)

注意：如果您仅需使用命令行工具或 Python 绑定，直接使用包管理器安装即可，无需手动配置编译依赖。

安装步骤

请根据您的操作系统选择最便捷的安装方式。

方案 A：使用包管理器（推荐）

这是最简单且稳定的安装方式。

macOS (Homebrew):

brew install vowpal-wabbit

Linux (Ubuntu/Debian): 虽然部分源包含旧版本，建议优先使用 Python pip 安装最新二进制包，或参考 Wiki 编译安装。

# 安装 Python 绑定（包含 vw 可执行文件）
pip install vowpalwabbit

Windows (vcpkg):

# 确保已安装 vcpkg
vcpkg install vowpal-wabbit

方案 B：从源码编译 (Linux/macOS)

如果需要最新特性或自定义构建：

git clone https://github.com/VowpalWabbit/vowpal_wabbit.git
cd vowpal_wabbit
mkdir build && cd build
cmake .. -DCMAKE_BUILD_TYPE=Release
make -j
sudo make install

验证安装

在终端输入以下命令，若输出版本信息则安装成功：

vw --version

基本使用

Vowpal Wabbit 的核心是通过命令行进行训练和预测。其输入格式灵活，支持命名空间（namespaces）和自由文本特征。

1. 准备数据

VW 使用特定的文本格式。每一行代表一个样本，格式如下： [标签] [权重] [命名空间]:[特征] [特征值] ...

创建一个名为 data.dat 的测试文件：

1 |f age:25 capital-gains:0 education-num:7 hours-per-week:40
0 |f age:40 capital-gains:5000 education-num:13 hours-per-week:50
1 |f age:30 capital-gains:2000 education-num:9 hours-per-week:35

说明：1 或 0 是标签，|f 定义了一个名为 f 的特征命名空间，后面跟随特征名及其数值。

2. 训练模型

使用稀疏梯度下降（默认算法）训练模型并保存为 model.vw：

vw -d data.dat -f model.vw --loss_function logistic

• -d: 输入数据文件
• -f: 输出模型文件
• --loss_function logistic: 指定损失函数（二分类常用）

3. 进行预测

使用训练好的模型对新数据进行预测（输出预测值到标准输出）：

vw -d data.dat -i model.vw -t -p predictions.txt

• -i: 加载输入模型
• -t: 测试模式（只预测，不更新权重）
• -p: 将预测结果保存到文件

4. Python 快速调用

如果您安装了 vowpalwabbit Python 包，可以在代码中直接调用：

from vowpalwabbit import pyvw

# 初始化
vw = pyvw.vw(loss_function='logistic')

# 训练单条样本
vw.learn("1 |f age:25 capital-gains:0")
vw.learn("0 |f age:40 capital-gains:5000")

# 预测
example = " |f age:30 capital-gains:2000"
prediction = vw.predict(example)
print(f"Prediction: {prediction}")

# 结束
vw.finish()

更多高级功能（如特征交叉 -q, 上下文_bandit_ --cb, 分布式训练等）请参考官方 Wiki 教程。