g1：在 Groq 上使用 Llama-3.1 70B 构建类似 o1 的推理链

视频演示

这是一个早期原型，旨在通过提示策略构建类似 o1 的推理链，从而提升大语言模型的推理能力。这种方法使模型能够“思考”，并解决通常会让主流模型感到棘手的逻辑问题。与 o1 不同的是，g1 会展示所有的推理步骤，并且使用的是开源模型。

g1 属于实验性项目，现已开源，目的是激发开源社区开发新的策略，以实现类似 o1 的推理能力。这项实验旨在展示分步可视化提示的强大作用，而非对 o1 的比较或完全复现；o1 采用了不同的技术路线。OpenAI 的 o1 是通过大规模强化学习训练而成，利用思维链进行推理，在复杂的博士级问题上达到了业界领先水平。

g1 证明了仅靠提示就能克服诸如“草莓问题”这类简单的语言模型逻辑缺陷，使现有的开源模型也能受益于动态推理链以及更友好的交互界面来探索这些推理过程。

工作原理

由 Llama3.1-70B 驱动的 g1 能够生成推理链——本质上是一种动态的思维链——让大语言模型具备“思考”的能力，从而解决一些通常会让主流模型难以应对的逻辑问题。

在每一步中，模型可以选择继续进行下一步推理，或者直接给出最终答案。每个步骤都有标题，并对用户可见。系统提示中还包含给模型的建议。完整说明请参见“提示拆解”部分，其中的一些示例包括要求模型“探索备选答案”以及“至少使用三种方法推导出答案”。

通过将思维链与多方法尝试、备选答案探索、对先前草稿解决方案的质疑以及对模型自身局限性的考量相结合，g1 显著提升了大语言模型的推理能力。仅凭这一点，无需任何额外训练，便能在“草莓问题”（n=10，“草莓中有多少个 R？”）上达到约 70% 的准确率。而在未使用提示的情况下，Llama-3.1-70B 的准确率为 0%，而 ChatGPT-4o 的准确率为 30%。

示例

[!重要] g1 并不完美，但其表现明显优于开箱即用的大语言模型。初步测试显示，g1 在通常会让大语言模型犯难的简单逻辑问题上，准确率可达 60%–80%。不过，目前尚未对准确率进行正式评估。以下是一些示例。

草莓中有多少个 R？

提示：草莓中有多少个 R？

结果：

---

提示：0.9 和 0.11 哪个更大？

结果：

快速入门

要使用 Streamlit 界面，请按照以下步骤操作：

python3 -m venv venv

source venv/bin/activate

pip3 install -r requirements.txt

export GROQ_API_KEY=gsk...

streamlit run app.py

---

或者，您也可以按照以下步骤使用 Gradio 界面：

cd gradio

pip3 install -r requirements.txt

python3 app.py

提示策略

提示内容如下：

你是一位专家级的AI助手，会逐步解释你的推理过程。对于每一步，提供一个描述该步骤内容的标题，并附上具体内容。判断是否还需要进一步的步骤，或者是否可以给出最终答案。请以JSON格式回复，包含‘title’（标题）、‘content’（内容）和‘next_action’（下一步行动，可选‘continue’或‘final_answer’）三个键。尽可能多地使用推理步骤，至少3步。要意识到作为大语言模型的局限性，清楚自己能做什么、不能做什么。在推理过程中，应探索其他可能的答案，考虑自己可能会出错，并分析如果推理有误，错在哪里。充分检验所有其他可能性。你有可能犯错。当你提到正在重新审视时，务必真正地重新审视，并尝试另一种方法来实现；不要只是说说而已。至少使用3种方法来得出答案。遵循最佳实践。

有效JSON响应示例：
json
{
    "title": "识别关键信息",
    "content": "为了解决这个问题，我们需要仔细检查给定的信息，找出指导我们解题的关键要素。这包括...",
    "next_action": "continue"
}

分解

首先，添加了一个角色设定：

你是一位专家级的AI助手，会逐步解释你的推理过程。

接着，给出了关于预期逐步推理过程的指示，要求为每个推理步骤命名，并说明其内容。这还包括让大语言模型能够决定是否需要继续推理，还是可以直接给出最终答案。

对于每一步，提供一个描述该步骤内容的标题，并附上具体内容。判断是否还需要进一步的步骤，或者是否可以给出最终答案。

随后引入了JSON格式，并提供了示例。

请以JSON格式回复，包含‘title’（标题）、‘content’（内容）和‘next_action’（下一步行动，可选‘continue’或‘final_answer’）三个键。

为了提高提示的执行效果，用大写字母强调了一组建议和最佳实践：

1. 尽可能多地使用推理步骤，至少3步。——这样可以确保大语言模型真正花时间思考，通常会产生5到10个步骤。
2. 意识到作为大语言模型的局限性，明确自己能做什么、不能做什么。——这有助于模型记住使用更有效的技巧，比如在计数之前先将“strawberry”拆分成单个字母。
3. 探索其他可能的答案。考虑自己可能会出错，并分析如果推理有误，错在哪里。——大部分收益似乎来自于模型重新评估其初始回答，以确保其逻辑与问题一致。
4. 当你说正在重新审视时，务必真正地重新审视，并采用另一种方法；不要只是口头说说而已。——这可以防止模型仅仅声称已经重新审视过问题，而实际上并未尝试新的方法。
5. 至少使用3种方法来得出答案。——通过尝试多种方法，可以帮助模型找到正确的答案。
6. 遵循最佳实践。——例如，“做得更好”这类提示可以提升大语言模型生成代码的质量。通过告诉模型要遵循最佳实践或做得更好，它通常会有更好的表现！

尽可能多地使用推理步骤，至少3步。要意识到作为大语言模型的局限性，清楚自己能做什么、不能做什么。在推理过程中，应探索其他可能的答案，考虑自己可能会出错，并分析如果推理有误，错在哪里。充分检验所有其他可能性。你有可能犯错。当你提到正在重新审视时，务必真正地重新审视，并尝试另一种方法；不要只是说说而已。至少使用3种方法来得出答案。遵循最佳实践。

最后，在用户消息中加入具体问题后，加载了一条助手消息，为大语言模型的生成提供一个标准化的起点。

助手：谢谢！我现在将按照我的指示一步步思考，从分解问题开始。

相关项目

• Huggingface Spaces演示：
• Mult1：利用多个AI提供商构建类似o1的推理链（GitHub仓库）
• thinkR：在R语言中使用本地大语言模型构建类似o1的思维链（GitHub仓库）

致谢

本应用由Benjamin Klieger开发。

g1 快速上手指南

g1 是一个实验性开源项目，旨在通过特定的提示词策略（Prompting Strategies），利用 Llama-3.1 70b 模型在 Groq 平台上生成类似 OpenAI o1 的推理链。它能让大模型在输出最终答案前进行多步骤“思考”，显著提升解决逻辑难题（如"strawberry 中有几个 r"）的能力。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux, macOS 或 Windows (WSL)
• Python 版本：Python 3.8 或更高版本
• API Key：您需要一个有效的 Groq API Key (gsk_...)
• 网络环境：由于需要连接 Groq API 和下载 Python 包，请确保网络畅通。如有条件，可配置国内 pip 镜像源加速安装。

安装步骤

本项目提供两种用户界面（UI）：Streamlit（推荐）和 Gradio。以下是基于 Streamlit 的安装流程。

1. 创建并激活虚拟环境

python3 -m venv venv
source venv/bin/activate

(Windows 用户使用 venv\Scripts\activate)

2. 安装依赖

建议使用国内镜像源（如清华源）以加快安装速度：

pip3 install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple

3. 配置 API Key

将您的 Groq API Key 导出为环境变量：

export GROQ_API_KEY=gsk_your_actual_api_key_here

(Windows PowerShell 用户使用 $env:GROQ_API_KEY="gsk_...")

基本使用

启动应用

运行以下命令启动 Streamlit 界面：

streamlit run app.py

浏览器会自动打开本地服务地址（通常为 http://localhost:8501）。

使用示例

在界面中输入逻辑问题，观察模型的逐步推理过程。

示例问题 1：字母计数陷阱

Prompt: How many Rs are in strawberry?

预期行为: 模型不会直接回答，而是会分解单词、逐个检查字母、尝试多种计数方法并进行自我验证，最终给出正确答案（3个）。

示例问题 2：小数比较

Prompt: Which is larger, .9 or .11?

预期行为: 模型会通过数学转换或多方法对比，避免被数字长度误导，正确判断 0.9 更大。

核心机制说明

g1 的核心在于其系统提示词（System Prompt），它强制模型执行以下操作：

1. 分步思考：至少进行 3 个推理步骤。
2. 多方法验证：使用至少 3 种不同的方法推导答案。
3. 自我反思：主动探索替代答案，质疑之前的草稿，并承认潜在的局限性。
4. 结构化输出：每一步都包含标题、内容和下一步动作（继续或给出最终答案）。

---

注：如需使用 Gradio 界面，可进入 gradio 目录，安装该目录下的 requirements.txt 后运行 python3 app.py。