PyTorch 主动学习

用于常见主动学习方法的库，配套书籍：
《人机协作机器学习》
罗伯特·蒙纳克 著
Manning 出版社
https://www.manning.com/books/human-in-the-loop-machine-learning

该代码为独立运行版本，可与本书配合使用。

库中包含的主动学习方法

目前代码包含以下方法：

• 最小置信度采样
• 置信度间隔采样
• 置信度比值采样
• 熵（分类熵）
• 基于模型的异常点采样
• 基于聚类的采样
• 代表性采样
• 自适应代表性采样
• 面向不确定性采样的主动迁移学习
• 面向代表性采样的主动迁移学习
• 面向自适应采样的主动迁移学习（ATLAS）

书中详细介绍了如何单独使用这些方法、组合使用它们，以及在计算机视觉和自然语言处理领域中的不同应用场景。此外，还探讨了如何通过采样策略实现真实世界的多样性，从而避免偏差。

安装：

如果您克隆此仓库并已安装 PyTorch，则应能立即开始使用：

git clone https://github.com/rmunro/pytorch_active_learning

cd pytorch_active_learning

运行第2章：人机协作机器学习入门

python active_learning_basics.py

运行程序时，系统会提示您将新闻标题分类为与灾害相关或不相关。同时，系统还会提供“与灾害相关”的精确定义供您参考。您也可以在代码中的 detailed_instructions 变量中查看这些定义：https://github.com/rmunro/pytorch_active_learning/blob/master/active_learning_basics.py

在完成足够多的数据标注以进行评估并开始训练后，您会发现机器学习模型会在每次标注迭代后进行训练，并以 F1 分数和 AUC 值报告在保留验证集上的准确率。

初始训练阶段仅基于随机选择的数据，随后主动学习机制将开始发挥作用，寻找模型难以区分或具有新颖特征的未标注样本。这一过程也会体现在标注过程中：最初与灾害相关的标题非常稀少，但经过几次迭代后，其占比应逐渐上升至约 40%。

运行第4章：多样性采样

python diversity_sampling.py

本示例基于前面的数据集。请参阅相应章节，了解可用于执行不同类型多样性采样的功能标志，例如基于模型的异常点采样、聚类采样和代表性采样。

系统要求：

代码假设您使用的是 Python 3.6 或更高版本。

如果您确实需要在 Python 2.* 上运行，请告知我：PyTorch 和主动学习算法本身 应该 兼容 2.* 版本，只需修改 Python 获取命令行输入的方式即可（Python 2.* 仅接受整数输入）。如果需求足够多，我会尝试更新代码以兼容更早版本的 Python！

安装 PyTorch：

AWS

建议使用 AWS 的深度学习 AMI，因为其中已预装 PyTorch，可通过以下命令激活：
source activate pytorch_p36
这样您就可以立即运行程序了。

有关在 AWS 上使用 PyTorch 的更多信息，请参阅：
https://docs.aws.amazon.com/dlami/latest/devguide/tutorial-pytorch.html

Google Cloud

建议使用 Google Cloud 上的 PyTorch 镜像作为深度学习虚拟机，因为其中已预装 PyTorch。CPU 和 GPU 均可正常工作： pytorch-latest-cpu

pytorch-latest-gpu

有关在 Google Cloud 上使用 PyTorch 的更多信息，请参阅：
https://cloud.google.com/deep-learning-vm/docs/images

Microsoft Azure

建议使用 Microsoft Azure 上的预配置数据科学虚拟机：
https://azure.microsoft.com/en-us/develop/pytorch/ Azure Notebook 选项也可能是一个不错的选择，但我尚未测试过；如果您试用过，请告知我！

Linux / Mac / Windows

如果您是在本地或云服务器上安装，且未预装 PyTorch，可以使用以下方法：

Mac：
conda install pytorch torchvision -c pytorch

Linux/Windows：
conda install pytorch torchvision cudatoolkit=9.0 -c pytorch

以上本地安装说明截至 2019 年 6 月。PyTorch 经常更新快速入门指南，因此如果这些命令因某种原因无法正常工作，建议直接访问官方文档。请参阅：
https://pytorch.org/

Mac 用户还应确保使用 Python 3.6 或更高版本，因为 Mac 默认仍搭载 Python 2.7。如确需支持 Python 2.7，请参阅上述相关内容。

对于使用 pip 的用户，也可以尝试通过以下命令安装 PyTorch： pip3 install torch 或 pip3 install torch 不过，具体能否成功取决于各类库的版本以及您的操作系统，因此 PyTorch 官网推荐优先使用 conda 而不是 pip。

数据来源

目前使用的数据来自 Kaggle 上发布的“百万新闻标题”数据集：
https://www.kaggle.com/therohk/million-headlines
该数据来源于澳大利亚 ABC 新闻机构的新闻标题。这些标题采用澳式英语，与英式英语更为接近，而与美式英语则存在细微差异；总体而言，澳式英语词汇是英式和美式英语的子集，仅在少数单词的含义上有所不同，这些含义在英美两国并不常见。

不过，我计划尽快更换数据集。当前数据集中的标题均为小写，且仅保留 a-z 和 0-9 字符，去除了标点符号、带重音的字符等。此外，许多标题似乎也被截断了。因此，我将用更贴近真实新闻标题的数据集来替换现有数据。

尽管如此，该数据集完全足以满足本代码的学习需求——只是由此生成的标注和模型在实际应用中的实用性会相对较低。

PyTorch Active Learning 快速上手指南

本工具库提供了多种主动学习（Active Learning）算法的实现，配套书籍《Human-in-the-Loop Machine Learning》使用。它支持不确定性采样、多样性采样及主动迁移学习等策略，适用于计算机视觉和自然语言处理场景。

环境准备

• 操作系统：Linux, macOS, Windows
• Python 版本：Python 3.6 或更高版本（macOS 用户请注意系统默认通常为 Python 2.7，需手动指定 python3）。
• 核心依赖：PyTorch, torchvision
• 数据来源：示例默认使用 Kaggle 的 "Million News Headlines" 数据集（代码运行时可能需自行下载或按提示操作）。

国内加速建议： 推荐使用清华或中科大镜像源安装 Conda 包，以提升下载速度。

• 清华镜像配置：conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/

安装步骤

1. 克隆项目代码

git clone https://github.com/rmunro/pytorch_active_learning
cd pytorch_active_learning

2. 安装 PyTorch 依赖

如果您尚未安装 PyTorch，请根据系统选择以下命令（推荐优先使用 conda）：

macOS:

conda install pytorch torchvision -c pytorch

Linux / Windows (CPU 版本):

conda install pytorch torchvision cpuonly -c pytorch

Linux / Windows (GPU 版本，需根据实际 CUDA 版本调整):

conda install pytorch torchvision cudatoolkit=11.8 -c pytorch -c nvidia

(注：原 README 中的 cudatoolkit=9.0 已过时，建议使用上述较新版本或访问 pytorch.org 获取最新指令)

若必须使用 pip 安装：

pip3 install torch torchvision

基本使用

示例：入门主动学习（第 2 章）

运行基础脚本，系统将引导您对新闻标题进行灾难相关性分类标注。模型会在每次标注迭代后重新训练，并展示 F-Score 和 AUC 指标。初始阶段为随机采样，随后自动切换为主动学习策略（如选取模型最不确定的样本）。

python active_learning_basics.py

运行后跟随终端提示进行操作即可。

示例：多样性采样（第 4 章）

基于已有数据集，演示基于模型异常值、聚类及代表性采样等多样性策略。

python diversity_sampling.py

支持的算法列表

本库内置了以下主动学习方法，可通过代码参数调用：

• 最低置信度采样 (Least Confidence)
• 置信度边界采样 (Margin of Confidence)
• 置信度比率采样 (Ratio of Confidence)
• 熵采样 (Entropy)
• 基于模型的异常值采样 (Model-based outlier)
• 基于聚类的采样 (Cluster-based)
• 代表性采样 (Representative)
• 自适应代表性采样 (Adaptive Representative)
• 主动迁移学习系列 (Active Transfer Learning for Uncertainty/Representative/Adaptive Sampling)