贝叶斯主动学习（Baal）

Baal是一个主动学习库，既支持工业应用，也适用于研究场景。

请访问https://baal.readthedocs.io阅读文档。

我们的论文可在arXiv上查阅。其中包含使主动学习在生产环境中可用的技巧和方法。

如需快速了解Baal及贝叶斯主动学习，请参阅以下链接：

• 与Label Studio的研讨会
• 用户指南
• 贝叶斯主动学习演示文稿

Baal最初由ElementAI开发（于2021年被ServiceNow收购），但如今已独立运营。

安装与要求

Baal需要Python>=3.10。

使用pip安装Baal：pip install baal

我们使用Poetry作为包管理器。 从源码安装Baal：poetry install

使用Baal的论文

• 面向生产的贝叶斯主动学习：系统性研究与可复用库 （Atighehchian等，2020年）
• Synbols：利用合成数据集探测学习算法 （Lacoste等，2020年）
• 主动学习能否预先缓解公平性问题？ （Branchaud-Charron等，2021年）
• 结合MaskAL的主动学习可减少训练Mask R-CNN的标注工作量（Blok等，2021年）
• 深度主动学习中的随机批次获取（Kirsch等，2022年）
• 结合X-Vectors与贝叶斯批量主动学习：用于语音识别的两阶段主动学习流水线（Kundacina等，2025年）

什么是主动学习？

主动学习是机器学习的一种特殊情况，在这种情况下，学习算法能够与用户（或其它信息来源）进行交互式查询，以在新的数据点上获得期望的输出。 （如需更深入地理解这一概念，请参阅我们的教程）。

Baal框架

目前，Baal支持以下几种主动学习方法：

• 蒙特卡洛丢弃法（Gal等，2015年）
• MCDropConnect（Mobiny等，2019年）
• 深度集成
• 半监督学习

如果您希望提出新的方法，请提交一个问题。

蒙特卡洛丢弃法是贝叶斯神经网络的一种常用近似方法。在此方法中，Dropout层在训练和测试时均被使用。通过在随机丢弃权重的情况下多次运行模型，我们可以使用heuristics.py中的不确定性度量之一来计算预测的不确定性。

该框架由四个主要部分组成，如下所示的流程图所示：

• ActiveLearningDataset
• Heuristics
• ModelWrapper
• ActiveLearningLoop

要开始使用，首先将您的数据集包装到我们的_ActiveLearningDataset_类中。这将确保数据集被划分为training和pool两个集合。pool集合代表尚未标注的部分训练数据。

我们提供了一个轻量级对象_ModelWrapper_，类似于keras.Model，以便更轻松地训练和测试模型。如果您的模型尚未准备好用于主动学习，我们还提供了相应的模块来对其进行准备。

例如，_MCDropoutModule_包装器会将现有的dropout层改为在训练和推理时均可使用，而ModelWrapper则会指定在训练和推理时应运行的迭代次数。

最后，_ActiveLearningLoop_会自动计算不确定性，并对池中不确定性最高的样本进行标注。

综上所述，您的脚本应类似于以下内容：

dataset = ActiveLearningDataset(your_dataset)
dataset.label_randomly(INITIAL_POOL)  # 标注部分数据
model = MCDropoutModule(your_model)
wrapper = ModelWrapper(model, args=TrainingArgs(...))
experiment = ActiveLearningExperiment(
    trainer=wrapper, # Huggingface或ModelWrapper用于训练
    al_dataset=dataset, # 主动学习数据集
    eval_dataset=test_dataset, # 评估数据集
    heuristic=BALD(), # 使用的不确定性启发式方法
    query_size=100, # 每轮标注多少个样本
    iterations=20, # 每个样本进行多少次MC采样
    pool_size=None, # 可选地限制未标注样本池的大小
    criterion=None # 实验停止条件
)
# 实验将持续进行，直到所有样本都被标注完毕。
metrics = experiment.start()

完整的实验示例请参阅_experiments/vgg_mcdropout_cifar10.py_。

重新运行我们的实验

docker build [--target base_baal] -t baal .
docker run --rm baal --gpus all python3 experiments/vgg_mcdropout_cifar10.py

将Baal用于您自己的实验

只需克隆仓库，并创建一个类似于_experiments/vgg_mcdropout_cifar10.py_示例的实验脚本。请务必使用Baal框架的四个主要部分。祝您实验顺利！

如何贡献！

如需贡献，请参阅CONTRIBUTING.md。

我们是谁！

“这里有激情，也有平静；有宁静，也有情感；有混沌，也有秩序。”

Baal 团队致力于测试和实现关于不确定性估计与主动学习的最新研究成果。

当前维护者：

• 帕米达·阿蒂格赫奇安
• 弗雷德里克·布朗肖-沙龙
• 乔治·皮尔斯

如何引用

如果您在自己的项目中使用了 Baal，我们非常感谢您能通过以下 BibTeX 格式引用该库：

@misc{atighehchian2019baal,
  title={Baal, a bayesian active learning library},
  author={Atighehchian, Parmida and Branchaud-Charron, Frederic and Freyberg, Jan and Pardinas, Rafael and Schell, Lorne
          and Pearse, George},
  year={2022},
  howpublished={\url{https://github.com/baal-org/baal/}},
}

许可证

有关本 API 的许可证信息，请参阅 LICENCE。

Baal 快速上手指南

Baal 是一个支持工业应用和研究场景的贝叶斯主动学习（Bayesian Active Learning）库。它通过不确定性估计，帮助模型智能地选择最有价值的数据进行标注，从而降低标注成本并提升模型性能。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux, macOS 或 Windows
• Python 版本：Python >= 3.10 (必须)
• 包管理器：推荐使用 pip 或 Poetry
• 深度学习框架：Baal 主要基于 PyTorch 生态构建（需自行安装对应版本的 PyTorch）

国内加速建议： 如果下载依赖较慢，建议使用国内镜像源。

• pip 临时使用清华源：-i https://pypi.tuna.tsinghua.edu.cn/simple
• Poetry 配置清华源：poetry source add --priority=explicit tsinghua https://pypi.tuna.tsinghua.edu.cn/simple

安装步骤

您可以选择通过 pip 直接安装稳定版，或通过源码安装以获取最新功能。

方式一：使用 pip 安装（推荐）

pip install baal

国内用户加速安装：

pip install baal -i https://pypi.tuna.tsinghua.edu.cn/simple

方式二：从源码安装（需 Poetry）

如果您需要修改源码或贡献代码，建议使用 Poetry 管理依赖：

git clone https://github.com/baal-org/baal.git
cd baal
poetry install

基本使用

Baal 的核心工作流程包含四个主要部分：ActiveLearningDataset（数据集包装）、ModelWrapper（模型包装）、Heuristics（不确定性启发式策略）和 ActiveLearningLoop（主动学习循环）。

以下是一个基于 Monte-Carlo Dropout (MCDropout) 方法的最小化使用示例：

1. 导入必要的模块

from baal.active.dataset import ActiveLearningDataset
from baal.bayesian.dropout import MCDropoutModule
from baal.modelwrapper import ModelWrapper
from baal.active.active_loop import ActiveLearningExperiment
from baal.active.heuristics import BALD
# 假设您已经有了自己的 PyTorch 模型 (your_model) 和数据集 (your_dataset, test_dataset)
# 以及训练参数对象 (TrainingArgs)

2. 初始化实验流程

# 1. 包装数据集：自动划分为已标注 (training) 和未标注 (pool) 集合
dataset = ActiveLearningDataset(your_dataset)

# 随机初始化标注一部分数据作为起始训练集
INITIAL_POOL = 100 
dataset.label_randomly(INITIAL_POOL)

# 2. 包装模型：启用 MCDropout，使其在推理阶段也保持 Dropout 以计算不确定性
model = MCDropoutModule(your_model)

# 3. 创建模型包装器：统一管理训练和测试逻辑
wrapper = ModelWrapper(model, args=TrainingArgs(...))

# 4. 配置并启动主动学习实验
experiment = ActiveLearningExperiment(
    trainer=wrapper,           # 训练器 (支持 Huggingface 或 ModelWrapper)
    al_dataset=dataset,        # 主动学习数据集
    eval_dataset=test_dataset, # 独立的测试/验证集
    heuristic=BALD(),          # 不确定性策略 (例如：BALD, Entropy, Variance)
    query_size=100,            # 每轮迭代标注的数据量
    iterations=20,             # 每个样本进行 MC 采样的次数 (用于计算不确定性)
    pool_size=None,            # (可选) 限制未标注池的大小
    criterion=None             # (可选) 实验停止条件
)

# 开始运行：循环执行 "训练 -> 预测不确定性 -> 选择样本 -> 标注 -> 再训练"
# 直到所有池中的数据被标注或满足停止条件
metrics = experiment.start()

3. 运行结果

experiment.start() 执行完毕后，metrics 将包含每一轮迭代的性能指标。您可以参考官方仓库中的完整示例 experiments/vgg_mcdropout_cifar10.py 来构建更复杂的实验脚本。

进阶：使用 Docker 复现官方实验

如果您想快速验证环境或复现论文结果，可以使用 Docker：

# 构建镜像
docker build [--target base_baal] -t baal .

# 运行 CIFAR-10 示例实验
docker run --rm baal --gpus all python3 experiments/vgg_mcdropout_cifar10.py