调优透镜 🔎

用于理解 Transformer 模型如何逐层构建预测结果的工具。

本包提供了一个简单易用的接口，用于训练和评估 调优透镜。通过调优透镜，我们可以窥探 Transformer 在计算下一个 token 时所进行的迭代式计算过程。

什么是透镜？

一个拥有 n 层的 Transformer 透镜允许你将模型最后 m 层替换为一个 仿射变换（我们称其为仿射转换器）。每个仿射转换器都会被训练以最小化其预测与原始模型最终输出分布之间的 KL 散度。这意味着，在训练完成后，调优透镜可以让你跳过这些最后几层，直接查看基于模型在第 n - m 层的中间表示——即残差流——所能做出的最佳预测。

我们需要训练仿射转换器的原因在于，不同层之间的表示可能会发生旋转、平移或拉伸等变化。这种训练方式使得该方法区别于那些直接使用解嵌矩阵来解嵌网络残差流的简单方法，例如 logit 透镜。我们在论文 Eliciting Latent Predictions from Transformers with the Tuned Lens 中详细解释了这一过程及其应用。

致谢

该库最初由 Igor Ostrovsky 和 Stella Biderman 在 EleutherAI 提出构想，随后由 FAR 和 EleutherAI 的研究人员共同协作开发完成。

安装说明

从 PyPI 安装

首先，你需要在一个虚拟环境中安装基本的依赖项：

• Python 3.9+
• PyTorch 1.13.0+

然后，你可以直接使用 pip 安装该包。

pip install tuned-lens

使用容器安装

如果你更倾向于在容器内运行训练脚本，可以使用我们提供的 Docker 容器。

docker pull ghcr.io/alignmentresearch/tuned-lens:latest
docker run --rm tuned-lens:latest tuned-lens --help

贡献

请确保安装开发依赖并启用 pre-commit 钩子。

$ git clone https://github.com/AlignmentResearch/tuned-lens.git
$ pip install -e ".[dev]"
$ pre-commit install

引用

如果你觉得这个库对你有所帮助，请按以下格式引用：

@article{belrose2023eliciting,
  title={Eliciting Latent Predictions from Transformers with the Tuned Lens},
  authors={Belrose, Nora and Furman, Zach and Smith, Logan and Halawi, Danny and McKinney, Lev and Ostrovsky, Igor and Biderman, Stella and Steinhardt, Jacob},
  journal={即将发表},
  year={2023}
}

警告 本包尚未达到 1.0 版本。公共接口可能会频繁变化，且不一定会伴随主要版本号的更新。

Tuned Lens 快速上手指南

Tuned Lens 是一个用于理解 Transformer 模型如何逐层构建预测结果的工具。它通过训练“仿射转换器（affine translators）”，让你能够窥探模型中间层的残差流（residual stream），从而在不运行完所有层的情况下，查看基于中间表示的最佳预测分布。

环境准备

在开始之前，请确保你的开发环境满足以下要求：

• 操作系统：Linux, macOS 或 Windows (推荐 Linux)
• Python 版本：3.9 或更高
• 深度学习框架：PyTorch 1.13.0 或更高版本
• 包管理工具：pip

提示：国内开发者建议使用国内镜像源（如清华源、阿里源）加速依赖下载。

安装步骤

方式一：通过 PyPI 安装（推荐）

首先创建并激活一个虚拟环境（可选但推荐），然后使用 pip 安装：

# 推荐使用国内镜像源加速安装
pip install tuned-lens -i https://pypi.tuna.tsinghua.edu.cn/simple

方式二：使用 Docker 容器

如果你希望在一个隔离的容器中运行训练脚本，可以使用官方提供的 Docker 镜像：

# 拉取最新镜像
docker pull ghcr.io/alignmentresearch/tuned-lens:latest

# 验证安装并查看帮助信息
docker run --rm tuned-lens:latest tuned-lens --help

开发模式安装（贡献者适用）

如果你需要修改源码或参与贡献：

git clone https://github.com/AlignmentResearch/tuned-lens.git
cd tuned-lens
pip install -e ".[dev]" -i https://pypi.tuna.tsinghua.edu.cn/simple
pre-commit install

基本使用

安装完成后，你可以立即开始使用 Tuned Lens。最便捷的方式是通过 Google Colab 或 Hugging Face Spaces 进行交互式体验，无需本地配置 GPU 环境。

1. 在线交互式体验

• Google Colab: 点击此处打开交互式 Notebook
• Hugging Face Spaces: 点击此处打开在线应用

2. 命令行基础用法

在本地终端中，你可以直接调用 tuned-lens 命令来查看可用选项：

tuned-lens --help

典型的工作流通常包含以下步骤（具体参数需根据模型调整）：

1. 训练 Lens：针对特定模型和数据集训练仿射转换器。

   tuned-lens train <model_name_or_path> <dataset_name> --output_dir ./lens_output
   

2. 评估 Lens：评估训练好的 Lens 在中间层的预测能力。

   tuned-lens eval <model_name_or_path> ./lens_output/checkpoint_best.pt --dataset <dataset_name>
   

注意：该库目前尚未发布 1.0 正式版本，公共接口可能会频繁变更且不一定伴随主版本号升级，请在生产环境中谨慎使用。