基于 PyTorch 的少样本学习 (Few Shot Learning) 原型网络 (Prototypical Networks)

这是 PyTorch 中用于少样本学习 (Few Shot Learning) 的原型网络 (Prototypical Networks) 的简单替代实现 (paper, code)。

原型网络 (Prototypical Networks)

如参考论文所示，原型网络 (Prototypical Networks) 被训练用于将样本特征嵌入到向量空间中。具体来说，在每个 episode（迭代/回合）中，会选择一个类别子集的一些样本并通过模型。对于每个类别子集 c，使用一定数量的样本特征（n_support）来猜测该类的原型（即它们在向量空间中的质心坐标），从而最小化剩余的 n_query 样本与其类质心之间的距离。

T-SNE

训练完成后，您可以计算由模型生成的特征的 t-SNE（本仓库未包含此功能，关于 t-SNE 的更多信息请 点击这里），这是论文中展示的一个示例。

Omniglot 数据集

感谢 @ludc 的贡献：https://github.com/pytorch/vision/pull/46。 如果不需要对代码进行重大更改，我们将在官方数据集添加到 torchvision 时使用它。

数据集分割

我们实现了 Vinyals 分割方法，参见 [Matching Networks for One Shot Learning]。这应该是论文中使用的方法（事实上，我从“官方”仓库下载了分割文件）。然后我们应用其中描述的相同旋转。这样我们应该能够比较运行此代码获得的结果与参考论文中描述的结果。

原型批次采样器 (Prototypical Batch Sampler)

如其 PyDoc 所述，此类用于为原型训练算法生成每个批次的索引。

特别是，实例化对象时传入数据集的标签列表，采样器随后推断总类别数并为数据集中的每个类别创建一组索引。在每个 episode 中，采样器选择 n_classes 个随机类别，并为每个选定的类别返回一定数量（n_support + n_query）的样本索引。

原型损失 (Prototypical Loss)

按照引用论文计算损失，主要受其作者之一的 此代码 启发。

在 prototypical_loss.py 中，实现了损失函数以及符合 PyTorch 风格的损失类。

该函数接收来自模型的批次输入、样本的 ground truths (真实标签) 以及用作支持样本的样本数量 n_support。从目标列表中推断 episode 类别，为每个类别随机提取 n_support 个样本，计算它们的类质心，以及每个剩余样本 embedding (嵌入) 与每个类质心之间的距离，并最终计算每个样本属于每个 episode 类别的概率；然后像分类问题中通常那样，根据错误预测的概率（针对查询样本）计算损失。

训练

请注意，训练代码仅用于演示目的。

要在该任务上训练 Protonet，请进入此仓库的 src 根目录并执行：

$ python train.py

脚本接受以下命令行选项：

• dataset_root: 数据集根目录，默认为 '../dataset'

• nepochs: 训练 epoch 数量，默认为 100

• learning_rate: 模型学习率，默认为 0.001

• lr_scheduler_step: StepLR 学习率调度器步长，默认为 20

• lr_scheduler_gamma: StepLR 学习率调度器 gamma，默认为 0.5

• iterations: 每 epoch 的 episode 数量。默认为 100

• classes_per_it_tr: 训练时每个 episode 的随机类别数。默认为 60

• num_support_tr: 训练时作为支持的每类样本数。默认为 5

• num_query_tr: 训练时作为查询的每类样本数。默认为 5

• classes_per_it_val: 验证时每个 episode 的随机类别数。默认为 5

• num_support_val: 验证时作为支持的每类样本数。默认为 5

• num_query_val: 验证时作为查询的每类样本数。默认为 15

• manual_seed: 手动种子初始化输入，默认为 7

• cuda: 启用 CUDA（设置为 True）

不带参数运行命令将使用默认超参数 (Hyperparameters) 值训练模型（产生上述结果）。

性能

我们正尝试复现参考论文的性能，我们将在此处更新我们的最佳结果。

模型	1-shot (5-way 准确率)	5-shot (5-way 准确率)	1-shot (20-way 准确率)	5-shot (20-way 准确率)
参考论文	98.8%	99.7%	96.0%	98.9%
本仓库	98.5%**	99.6%*	95.1%°	98.6%°°

* 使用默认参数实现（使用 --cuda 选项）

** 运行 python train.py --cuda -nsTr 1 -nsVa 1 实现

° 运行 python train.py --cuda -nsTr 1 -nsVa 1 -cVa 20 实现

°° 运行 python train.py --cuda -nsTr 5 -nsVa 5 -cVa 20 实现

有用链接

• http://pytorch.org/docs/master/data.html: 关于 Dataset 类、Dataloaders 和 Samplers 的官方 PyTorch 文档

.bib 引用

请按以下方式引用该论文（为您从 arXiv 复制粘贴）：

@article{DBLP:journals/corr/SnellSZ17,
  author    = {Jake Snell and
               Kevin Swersky and
               Richard S. Zemel},
  title     = {Prototypical Networks for Few-shot Learning},
  journal   = {CoRR},
  volume    = {abs/1703.05175},
  year      = {2017},
  url       = {http://arxiv.org/abs/1703.05175},
  archivePrefix = {arXiv},
  eprint    = {1703.05175},
  timestamp = {Wed, 07 Jun 2017 14:41:38 +0200},
  biburl    = {http://dblp.org/rec/bib/journals/corr/SnellSZ17},
  bibsource = {dblp computer science bibliography, http://dblp.org}
}

许可证

本项目采用 MIT 许可证授权

版权所有 (c) 2018 Daniele E. Ciriello, Orobix Srl (www.orobix.com)。

Prototypical Networks for Few-shot Learning (PyTorch) 快速上手指南

本工具是用于少样本学习（Few-shot Learning）的原型网络（Prototypical Networks）的 PyTorch 实现，旨在复现 Snell 等人提出的原型网络论文效果。

1. 环境准备

• 操作系统：Linux / macOS / Windows
• Python 版本：建议 Python 3.6+
• 深度学习框架：PyTorch (需根据硬件选择 CPU 或 GPU 版本)
• 其他依赖：无额外复杂依赖，主要依赖 PyTorch 生态

提示：国内开发者建议使用清华源或阿里源加速 PyTorch 的安装过程。

2. 安装步骤

2.1 克隆代码库

git clone https://github.com/DanieleCiriello/Prototypical-Networks-for-Few-shot-Learning-PyTorch.git
cd Prototypical-Networks-for-Few-shot-Learning-PyTorch

2.2 安装 PyTorch

请根据您的 CUDA 版本访问 PyTorch 官网 获取命令。若使用国内镜像，可参考以下示例（以 CPU 版为例）：

pip install torch torchvision torchaudio -i https://pypi.tuna.tsinghua.edu.cn/simple

2.3 准备数据集

本项目默认使用 Omniglot 数据集。

• 请将下载好的 Omniglot 数据集解压至项目根目录的上一级文件夹中，路径默认为 ../dataset。
• 确保数据集结构符合 Vinyals 分割方法的要求（通常包含 images_background 和 images_evaluation）。

3. 基本使用

3.1 训练模型

进入源码目录并运行训练脚本。默认参数下即可开始训练。

cd src
python train.py

3.2 常用参数说明

支持通过命令行参数调整训练配置，核心参数如下：

参数	说明	默认值
dataset_root	数据集存放根目录	'../dataset'
nepochs	训练轮数	100
learning_rate	学习率	0.001
iterations	每 epoch 的训练 episode 数量	100
num_support_tr	训练集每类支持样本数	5
num_query_tr	训练集每类查询样本数	5
cuda	启用 GPU 加速 (设为 True)	False

3.3 启动示例

若要使用 GPU 进行训练，并指定数据集路径：

python train.py --cuda --dataset_root ./data/omniglot --nepochs 100

注意：训练代码主要用于演示和实验复现。如需评估模型性能，请参考 README 中的 Performances 部分了解不同设置下的准确率表现。