在 TensorFlow 中学习如何学习（Learning to Learn）

依赖项

• TensorFlow >=1.0
• Sonnet >=1.0

训练

python train.py --problem=mnist --save_path=./mnist

命令行参数：

• save_path: 如果指定，优化器将在每次评估性能提升时保存到该路径。
• num_epochs: 训练的轮数。
• log_period: 多少轮后报告平均性能和时间。
• evaluation_period: 多少轮后对优化器进行评估。
• evaluation_epochs: 评估的轮数。
• problem: 要训练的问题。详见下方的 问题 部分。
• num_steps: 优化步骤的数量。
• unroll_length: 优化器展开的步数。
• learning_rate: 学习率。
• second_derivatives: 如果为 true，优化器将尝试通过问题指定的损失函数计算二阶导数。

评估

python evaluate.py --problem=mnist --optimizer=L2L --path=./mnist

命令行参数：

• optimizer: Adam 或 L2L。
• path: 已保存优化器的路径，仅在使用 L2L 优化器时相关。
• learning_rate: 学习率，仅在使用 Adam 优化器时相关。
• num_epochs: 评估的轮数。
• seed: 随机数生成的种子。
• problem: 要评估的问题。详见下方的 问题 部分。
• num_steps: 优化步骤的数量。

问题

训练和评估脚本支持以下问题（更多细节请参阅 util.py）：

• simple: 单变量二次函数。
• simple-multi: 双变量二次函数，其中一个变量使用学习到的优化器优化，另一个变量使用 Adam 优化。
• quadratic: 批量处理的十变量二次函数。
• mnist: 使用两层全连接网络进行 MNIST 分类。
• cifar: 使用卷积神经网络进行 CIFAR-10 分类。
• cifar-multi: 使用卷积神经网络进行 CIFAR-10 分类，其中采用两个独立的学习型优化器：一个用于优化卷积层的参数，另一个用于优化全连接层的参数。

新的问题可以非常容易地实现。您可以在 train.py 中看到，MetaOptimizer 类中的 meta_minimize 方法会接收一个函数，该函数返回用于生成我们想要最小化的损失函数的 TensorFlow 操作（示例请参阅 problems.py）。需要注意的是，所有具有 Python 副作用的操作（例如队列的创建）都必须在传递给 meta_minimize 的函数之外完成。problems.py 中的 cifar10 函数就是一个使用 TensorFlow 队列的损失函数的良好示例。

免责声明：这不是 Google 的官方产品。

Learning to Learn 快速上手指南

本指南帮助中国开发者快速在 TensorFlow 环境中部署和使用 Learning to Learn (L2L) 开源工具，实现“学会学习”的优化器训练与评估。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统: Linux 或 macOS (Windows 需通过 WSL 或 Docker 运行)
• Python 版本: 推荐 Python 3.6+
• 核心依赖:
  • TensorFlow >= 1.0
  • Sonnet >= 1.0 (DeepMind 开发的神经网络库)

国内加速建议： 安装依赖时，建议使用清华或阿里镜像源以提升下载速度：

pip install -i https://pypi.tuna.tsinghua.edu.cn/simple tensorflow sonnet

安装步骤

1. 克隆项目代码

   git clone https://github.com/google/learning-to-learn.git
   cd learning-to-learn
   

2. 安装 Python 依赖 确保已安装 TensorFlow 和 Sonnet。如果尚未安装，执行：

   pip install -i https://pypi.tuna.tsinghua.edu.cn/simple tensorflow>=1.0 sonnet>=1.0
   

基本使用

1. 训练优化器 (Training)

使用 MNIST 数据集训练一个学习型优化器，并将模型保存到本地。

python train.py --problem=mnist --save_path=./mnist

常用参数说明：

• --problem: 选择训练任务，支持 simple, quadratic, mnist, cifar 等（详见下文）。
• --save_path: 指定优化器模型的保存路径（当评估性能提升时自动保存）。
• --num_epochs: 训练轮数。
• --learning_rate: 学习率。
• --second_derivatives: 设为 true 可尝试计算损失函数的二阶导数。

2. 评估优化器 (Evaluation)

加载训练好的 L2L 优化器或在 Adam 基准上进行评估。

使用训练好的 L2L 优化器：

python evaluate.py --problem=mnist --optimizer=L2L --path=./mnist

使用 Adam 优化器作为对比：

python evaluate.py --problem=mnist --optimizer=Adam --learning_rate=0.001

常用参数说明：

• --optimizer: 选择优化器类型 (Adam 或 L2L)。
• --path: L2L 优化器的模型加载路径。
• --seed: 随机数种子，用于复现实验结果。

3. 支持的问题类型 (Problems)

通过 --problem 参数指定不同的测试场景：

问题标识	描述
simple	单变量二次函数优化
simple-multi	双变量二次函数（混合使用 learned optimizer 和 Adam）
quadratic	批量十变量二次函数
mnist	基于两层全连接网络的 MNIST 分类
cifar	基于 CNN 的 CIFAR-10 分类
cifar-multi	CIFAR-10 分类（卷积层和全连接层分别使用独立的 learned optimizer）

扩展提示：您可以参考 problems.py 轻松实现新的优化问题。只需定义一个返回 TensorFlow Loss 操作的函数，并将其传递给 MetaOptimizer 类的 meta_minimize 方法即可。注意：涉及 Python 副作用的操作（如队列创建）必须在传入函数之外完成。