learn2learn 是一个用于元学习研究的软件库。

learn2learn 基于 PyTorch 构建，旨在加速元学习研究周期中的两个关键方面：

• 快速原型设计，这对于研究人员迅速尝试新想法至关重要；
• 正确的可重复性，确保这些想法能够被公正地评估。

learn2learn 提供了低层工具和统一的接口，以创建新的算法和领域，同时还包含了现有算法的高质量实现以及标准化的基准测试。它与 torchvision、torchaudio、torchtext、cherry 以及其他任何基于 PyTorch 的库都保持兼容。

欲了解更多信息，请参阅我们的白皮书：arXiv:2008.12284

概述

• learn2learn.data：Taskset 和转换工具，可从任何 PyTorch 数据集创建少样本任务。
• learn2learn.vision：用于计算机视觉和少样本学习的模型、数据集和基准测试。
• learn2learn.gym：用于元强化学习的环境和实用工具。
• learn2learn.algorithms：现有元学习算法的高层封装。
• learn2learn.optim：用于可微优化和元下降的工具及算法。

资源

• 官网：http://learn2learn.net/
• 文档：http://learn2learn.net/docs/learn2learn
• 教程：http://learn2learn.net/tutorials/getting_started/
• 示例：https://github.com/learnables/learn2learn/tree/master/examples
• GitHub：https://github.com/learnables/learn2learn/
• Slack：http://slack.learn2learn.net/

安装

pip install learn2learn

片段与示例

以下片段将带您一窥 learn2learn 的功能。

高层封装

maml = l2l.algorithms.MAML(model, lr=0.1)
opt = torch.optim.SGD(maml.parameters(), lr=0.001)
for iteration in range(10):
    opt.zero_grad()
    task_model = maml.clone()  # 对 nn.Module 使用 torch.clone()
    adaptation_loss = compute_loss(task_model)
    task_model.adapt(adaptation_loss)  # 计算梯度，并就地更新 task_model
    evaluation_loss = compute_loss(task_model)
    evaluation_loss.backward()  # 关于 maml.parameters() 的梯度
    opt.step()

linear = nn.Linear(784, 10)
transform = l2l.optim.ModuleTransform(l2l.nn.Scale)
metaopt = l2l.optim.LearnableOptimizer(linear, transform, lr=0.01)  # metaopt 有 .step()
opt = torch.optim.SGD(metaopt.parameters(), lr=0.001)  # metaopt 也有 .parameters()

metaopt.zero_grad()
opt.zero_grad()
error = loss(linear(X), y)
error.backward()
opt.step()  # 更新 metaopt
metaopt.step()  # 更新 linear

学习领域

dataset = l2l.data.MetaDataset(MyDataset())  # 任何 PyTorch 数据集
transforms = [  # 轻松定义自己的转换
    l2l.data.transforms.NWays(dataset, n=5),
    l2l.data.transforms.KShots(dataset, k=1),
    l2l.data.transforms.LoadData(dataset),
]
taskset = Taskset(dataset, transforms, num_tasks=20000)
for task in taskset:
    X, y = task
    # 在该任务上进行元训练

def make_env():
    env = l2l.gym.HalfCheetahForwardBackwardEnv()
    env = cherry.envs.ActionSpaceScaler(env)
    return env

env = l2l.gym.AsyncVectorEnv([make_env for _ in range(16)])  # 使用 16 个线程
for task_config in env.sample_tasks(20):
    env.set_task(task)  # 所有线程接收相同的任务
    state = env.reset()  # 使用标准 Gym API
    action = my_policy(env)
    env.step(action)

低层工具

model = MyModel()
transform = l2l.optim.KroneckerTransform(l2l.nn.KroneckerLinear)
learned_update = l2l.optim.ParameterUpdate(  # 可学习的更新函数
        model.parameters(), transform)
clone = l2l.clone_module(model)  # 对 nn.Module 使用 torch.clone()
error = loss(clone(X), y)
updates = learned_update(  # 类似于 torch.autograd.grad 的 API
    error,
    clone.parameters(),
    create_graph=True,
)
l2l.update_module(clone, updates=updates)
loss(clone(X), y).backward()  # 关于 model.parameters() 和 learned_update.parameters() 的梯度

更改日志

人类可读的更改日志可在 CHANGELOG.md 文件中找到。

引用

若要在您的学术出版物中引用 learn2learn 仓库，请使用以下参考文献。

Arnold, Sebastien M. R., Praateek Mahajan, Debajyoti Datta, Ian Bunner, and Konstantinos Saitas Zarkias. 2020. “learn2learn: 用于元学习研究的库。” arXiv [cs.LG]. http://arxiv.org/abs/2008.12284.

您也可以使用以下 BibTeX 条目。

@article{Arnold2020-ss,
  title         = {learn2learn：用于{元学习}研究的库},
  author        = {Arnold, Sébastien M R 和 Mahajan, Praateek 和 Datta, Debajyoti 和 Bunner, Ian 和 Zarkias, Konstantinos Saitas},
  month         =  八月,
  year          =  2020,
  url           = {http://arxiv.org/abs/2008.12284},
  archivePrefix = {arXiv},
  primaryClass  = {cs.LG},
  eprint        = {2008.12284}
}

### 致谢与伙伴

1. [TorchMeta](https://github.com/tristandeleu/pytorch-meta) 是一个类似的库，专注于监督式元学习的数据集。
2. [higher](https://github.com/facebookresearch/higher) 是一个 PyTorch 库，支持对优化内部循环进行梯度传播。尽管它通过猴子补丁使 `nn.Module` 变为无状态，但 learn2learn 仍保留了 PyTorch 的有状态设计风格。更多信息请参阅他们的 ArXiv 论文 [2019 年 10 月 17 日发表的论文](https://arxiv.org/abs/1910.01727)。
3. 我们感谢以下开源实现，它们在 learn2learn 的设计过程中提供了重要指导：
    * Tristan Deleu 的 [pytorch-maml-rl](https://github.com/tristandeleu/pytorch-maml-rl)
    * Jonas Rothfuss 的 [ProMP](https://github.com/jonasrothfuss/ProMP/)
    * Kwonjoon Lee 的 [MetaOptNet](https://github.com/kjunelee/MetaOptNet)
    * Han-Jia Ye 和 Hexiang Hu 的 [FEAT](https://github.com/Sha-Lab/FEAT)

learn2learn 快速上手指南

learn2learn 是一个基于 PyTorch 构建的元学习（Meta-Learning）研究库，旨在加速算法的原型设计与复现。它提供了从少样本学习（Few-Shot Learning）到元强化学习（Meta-RL）的统一接口和高质量实现。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux, macOS 或 Windows
• Python 版本：3.6 及以上
• 核心依赖：
  • PyTorch (推荐最新稳定版)
  • torchvision, torchaudio (可选，用于视觉和音频任务)
• 其他依赖：numpy, scipy 等科学计算库通常已随 PyTorch 环境安装。

提示：建议先配置好基础的 PyTorch 深度学习环境（推荐使用 Conda 或虚拟环境）。

安装步骤

方式一：通过 PyPI 安装（推荐）

使用 pip 直接安装最新版本：

pip install learn2learn

国内加速方案： 如果您在中国大陆地区，建议使用清华源或阿里源以加快下载速度：

pip install learn2learn -i https://pypi.tuna.tsinghua.edu.cn/simple
# 或者使用阿里源
pip install learn2learn -i https://mirrors.aliyun.com/pypi/simple/

方式二：从源码安装（开发版）

如果您需要最新的功能或参与贡献，可以从 GitHub 克隆源码安装：

git clone https://github.com/learnables/learn2learn.git
cd learn2learn
pip install -e .

基本使用

learn2learn 的核心优势在于其简洁的高级封装。以下是一个使用 MAML (Model-Agnostic Meta-Learning) 算法进行少样本学习的极简示例。

示例：使用 MAML 进行少样本学习

此示例展示了如何克隆模型、在任务上进行自适应更新（adapt），并计算元梯度。

import torch
import torch.nn as nn
import learn2learn as l2l

# 1. 定义基础模型
model = nn.Sequential(
    nn.Linear(784, 40),
    nn.ReLU(),
    nn.Linear(40, 10),
)

# 2. 包装为 MAML 模型
# lr 是内部适应步骤的学习率
maml = l2l.algorithms.MAML(model, lr=0.1)

# 3. 定义元优化器 (用于更新原始模型参数)
opt = torch.optim.SGD(maml.parameters(), lr=0.001)

# 模拟训练循环
for iteration in range(10):
    opt.zero_grad()
    
    # 克隆模型用于当前任务的适应 (支持 nn.Modules 的深度克隆)
    task_model = maml.clone()
    
    # --- 内循环 (Adaptation) ---
    # 假设 compute_loss 是用户定义的损失计算函数，输入为 task_model
    adaptation_loss = compute_loss(task_model) 
    
    # 执行一步或多步梯度更新，直接修改 task_model
    task_model.adapt(adaptation_loss)
    
    # --- 外循环 (Meta-Update) ---
    # 在适应后的模型上计算评估损失
    evaluation_loss = compute_loss(task_model)
    
    # 反向传播，梯度将累积到原始的 maml 参数上
    evaluation_loss.backward()
    
    # 更新元参数
    opt.step()

关键功能模块速览

除了上述高级算法封装，learn2learn 还提供以下核心模块：

• 数据加载 (learn2learn.data): 轻松将任意 PyTorch Dataset 转换为少样本任务（Taskset），支持自定义 N-way K-shot 变换。
• 视觉基准 (learn2learn.vision): 内置 Omniglot, mini-ImageNet, CIFAR-FS 等标准数据集和预定义模型。
• 元强化学习 (learn2learn.gym): 提供并行化环境 (AsyncVectorEnv) 和 Meta-RL 专用工具。
• 可微优化 (learn2learn.optim): 支持超梯度（Hypergradient）和学习优化器（LearnableOptimizer），允许对优化过程本身进行求导。

更多详细教程和完整代码示例，请访问官方文档：http://learn2learn.net/tutorials/getting_started/