Auto-CoT：大型语言模型中的自动思维链提示（ICLR 2023）

用“让我们一步一步思考”的提示来鼓励 AI 吗？多来点吧。让我们不仅一步一步地思考，还要一个一个地思考。

Auto-CoT 通过更多的鼓励和多样性，大幅节省了思维链提示设计中的大量手动工作，在 GPT-3 上的表现甚至可以媲美或超越人工设计的提示。

更多详情请参阅我们的 25 页论文。

环境要求

Python>=3.8

pip install torch==1.8.2+cu111 torchtext==0.9.2 -f https://download.pytorch.org/whl/lts/1.8/torch_lts.html
pip install -r requirements.txt

数据集

请从以下链接下载数据集：

https://github.com/kojima-takeshi188/zero_shot_cot/tree/main/dataset
https://github.com/kojima-takeshi188/zero_shot_cot/tree/main/log

快速入门

请参阅 try_cot.ipynb。

使用说明

构建演示数据：

python run_demo.py \
--task multiarith \
--pred_file log/multiarith_zero_shot_cot.log \
--demo_save_dir demos/multiarith

运行推理：

python run_inference.py \
--dataset multiarith \
--demo_path demos/multiarith \
--output_dir experiment/multiarith

引用 Auto-CoT

@inproceedings{zhang2023automatic,
  title={Automatic Chain of Thought Prompting in Large Language Models},
  author={Zhang, Zhuosheng and Zhang, Aston and Li, Mu and Smola, Alex},
  booktitle={The Eleventh International Conference on Learning Representations (ICLR 2023)},
  year={2023}
}

安全性

更多信息请参阅 CONTRIBUTING。

许可证

本项目采用 Apache-2.0 许可证。

Auto-CoT 快速上手指南

Auto-CoT 是一个用于在大语言模型中自动生成思维链（Chain of Thought）提示的工具，旨在减少人工设计提示的工作量，同时在性能上匹配甚至超越手动设计的方案。

环境准备

• 操作系统：支持 Linux、macOS 或 Windows（需配置相应环境）
• Python 版本：>= 3.8
• 依赖库：PyTorch、torchtext 及其他 Python 包

安装步骤

1. 安装 PyTorch 和 torchtext（以 CUDA 11.1 为例）：

   pip install torch==1.8.2+cu111 torchtext==0.9.2 -f https://download.pytorch.org/whl/lts/1.8/torch_lts.html
   

2. 安装其他依赖：

   pip install -r requirements.txt
   

💡 国内用户可使用清华或阿里云镜像加速安装：

pip install -i https://pypi.tuna.tsinghua.edu.cn/simple -r requirements.txt

基本使用

1. 准备数据集

从以下地址下载所需数据集和日志文件：

• 数据集：https://github.com/kojima-takeshi188/zero_shot_cot/tree/main/dataset
• 日志文件：https://github.com/kojima-takeshi188/zero_shot_cot/tree/main/log

将文件放置于项目对应目录中。

2. 构建示例（Demos）

以 multiarith 任务为例，运行以下命令生成演示数据：

python run_demo.py \
--task multiarith \
--pred_file log/multiarith_zero_shot_cot.log \
--demo_save_dir demos/multiarith

3. 执行推理

使用生成的演示数据进行推理：

python run_inference.py \
--dataset multiarith \
--demo_path demos/multiarith \
--output_dir experiment/multiarith

4. 快速体验（可选）

可直接在 Google Colab 中尝试：

更多详细用法请参考 try_cot.ipynb 笔记本。