PaL: 程序辅助语言模型

用于论文 PaL: 程序辅助语言模型 的代码库。

在 PaL 中，大型语言模型通过生成包含 文本和代码 的推理链来解决涉及复杂算术和程序化任务的推理问题。这样可以将代码的执行工作交由程序运行时环境完成，在我们的案例中是 Python 解释器。在论文中，我们采用少样本提示的方式实现了 PaL。

该仓库提供了 PaL 的交互式实现。

新闻 📢

[2023年3月] 我们增加了对 ChatGPT API（例如 gpt-3.5-turbo）的支持。我们预计这将使 PaL 在 Codex API 停止服务后能够平稳过渡。请查看用于数学推理的测试版脚本 scripts/gsm_chatgpt.py。

[2023年1月] 我们发布了 GSM-hard，这是我们创建的 GSM8k 更难版本。它也在 Huggingface 🤗 上提供。

import datasets
gsm_hard = datasets.load_dataset("reasoning-machines/gsm-hard")

安装

克隆此仓库并使用 pip 进行安装。

git clone https://github.com/luyug/pal
pip install -e ./pal

在运行脚本之前，请设置 OpenAI 密钥： export OPENAI_API_KEY='sk-...'

交互式使用

pal 包的核心组件是 Interface 类。具体来说，ProgramInterface 将语言模型后端、Python 后端和用户提示连接起来。

import pal
from pal.prompt import math_prompts

interface = pal.interface.ProgramInterface(
  model='code-davinci-002',
  stop='\n\n\n', # Codex API 的停止生成字符串
  get_answer_expr='solution()' # 生成代码后评估以获取答案的 Python 表达式 
)

question = 'xxxxx'
prompt = math_prompts.MATH_PROMPT.format(question=question)
answer = interface.run(prompt)

在这里，interface 的 run 方法会使用 OpenAI API 执行生成任务，运行生成的代码片段，然后评估 get_answer_expr（此处为 solution()）以得到最终答案。

用户应根据提示设置 get_answer_expr。

推理循环

我们在 scripts/ 文件夹中提供了简单的推理循环。

mkdir eval_results
python scripts/{colored_objects|gsm|date_understanding|penguin}_eval.py

我们还提供了一个用于数学推理的 ChatGPT 专用测试版脚本。

python scripts/gsm_chatgpt.py

对于批量推理，我们使用了通用提示库 prompt-lib，并推荐将其用于在我们工作中使用的所有任务上进行 CoT 推理。

结果

有关结果的完整细节，请参阅 论文。

引用

@article{gao2022pal,
  title={PAL: Program-aided Language Models},
  author={Gao, Luyu and Madaan, Aman and Zhou, Shuyan and Alon, Uri and Liu, Pengfei and Yang, Yiming and Callan, Jamie and Neubig, Graham},
  journal={arXiv preprint arXiv:2211.10435},
  year={2022}
}

PaL (Program-Aided Language Model) 快速上手指南

PaL 是一个让大语言模型通过生成文本与代码混合链来解决复杂算术和程序性推理问题的框架。它将代码执行卸载到 Python 解释器中，从而获得更准确的推理结果。

环境准备

• 系统要求：Linux / macOS / Windows (需配置 Python 环境)
• 前置依赖：
  • Python 3.8+
  • Git
  • OpenAI API Key (支持 code-davinci-002 或 gpt-3.5-turbo 等模型)

安装步骤

1. 克隆仓库并安装 使用以下命令克隆项目并以可编辑模式安装：

   git clone https://github.com/luyug/pal
   pip install -e ./pal
   

   提示：国内开发者若遇到下载慢的问题，可配置 pip 国内镜像源（如清华源）： pip install -e ./pal -i https://pypi.tuna.tsinghua.edu.cn/simple

2. 配置 API 密钥 在运行脚本前，需在终端导出您的 OpenAI API Key：

   export OPENAI_API_KEY='sk-...'
   

基本使用

PaL 的核心是 ProgramInterface 类，它负责连接 LLM 后端、Python 执行环境和用户提示词。以下是最简单的交互式使用示例：

import pal
from pal.prompt import math_prompts

# 初始化接口
# model: 指定使用的模型 (如 code-davinci-002 或 gpt-3.5-turbo)
# stop: 生成停止符 (Codex API 通常为 '\n\n\n')
# get_answer_expr: 生成的代码执行后，用于提取最终答案的 Python 表达式
interface = pal.interface.ProgramInterface(
  model='code-davinci-002',
  stop='\n\n\n', 
  get_answer_expr='solution()' 
)

# 构造问题与提示词
question = 'Roger has 5 tennis balls. He buys 2 more cans of tennis balls. Each can has 3 tennis balls. How many tennis balls does he have now?'
prompt = math_prompts.MATH_PROMPT.format(question=question)

# 运行推理
# 流程：调用 API 生成代码 -> 本地 Python 执行代码 -> 评估 get_answer_expr 获取结果
answer = interface.run(prompt)

print(f"Answer: {answer}")

说明：

• get_answer_expr 需要根据具体的 Prompt 模板进行调整，通常生成的代码会定义一个函数（如 solution()），该表达式用于调用该函数并返回结果。
• 若使用 ChatGPT 系列模型（如 gpt-3.5-turbo），请参考仓库中 scripts/gsm_chatgpt.py 的 Beta 版脚本进行适配。