使用思维树提示增强ChatGPT的推理能力

摘要

思维树提示（ToT）是一种借鉴思维树框架理念的新方法，它扩展并增强了成熟的思维链提示概念，从而使像ChatGPT这样的大型语言模型展现出更出色的推理能力。这种思维树提示技术使大型语言模型能够在逐步积累知识的同时，自主纠正错误。

在一个示例中，使用思维树提示后，ChatGPT 3.5的推理能力得到了提升，能够回答原本只有ChatGPT 4才能正确解答的问题。

面向LLM的复杂问题

大型语言模型（LLMs）通常难以回答某些类型的复杂问题。以下是一个具有代表性的例子：

Bob在客厅里。
他拿着一个杯子走向厨房。
他在杯子里放了一个球，然后端着杯子走进卧室。
他把杯子倒过来，接着走到花园。
他在花园里放下杯子，随后走向车库。
球现在在哪里？

正确答案是：球在卧室里。尽管LLMs具有非确定性，但在多次尝试中，我得到的回答如下：

• ChatGPT 3.5：球在花园里。❌
• ChatGPT 4：球在卧室里。[并附有解释] ✅

思维链提示

一种广为人知的概念称为“思维链提示”（简称CoT），它鼓励大型语言模型（LLMs）阐明其思考过程，从而提高回答正确的可能性。这一概念的起源可以追溯到2022年1月发表的一篇论文：《思维链提示激发大型语言模型的推理能力》（Chain-of-Thought Prompting Elicits Reasoning in Large Language Models, arXiv:2201.11903）。

从本质上讲，思维链提示技术可以通过在提示中加入类似以下内容来实现：

请仔细、逻辑地思考，并解释你的答案。

这种方法能够提升LLMs在许多问题上的表现，但其效果因情况而异。

以下是ChatGPT 3.5的一个回答示例：

根据给定的事件顺序，我们可以逻辑地推断出球的位置。让我们逐条分析：
1. Bob在客厅里。
 - 未提及球在客厅中。
2. Bob拿着杯子走向厨房。
 - 目前尚未提到球在厨房。
3. Bob把球放入杯子中。
 - 此时球已在杯子里。
4. Bob端着杯子走进卧室。
 - 球仍然在杯子里。
5. Bob把杯子倒过来。
 - 如果球在杯子里，那么当Bob将杯子倒置时，球就会掉出来。
6. Bob走向花园。
 - Bob把杯子留在了花园里，但并未提到球被从杯子里取出。
7. Bob把杯子放在花园里。
 - 如果球在杯子里，它应该仍在花园里的杯子里。
8. Bob走向车库。
 - 未提及球被带到车库。
综上所述，我们可以得出结论：球仍然在花园里的杯子中。

• ChatGPT 3.5 CoT：球在花园里。❌

可以看出，ChatGPT意识到球在第5步就已掉出，但仍未能给出正确答案。

那么，在不依赖ChatGPT 4的情况下，我们能否做得更好呢？

思维树框架

近几周，出现了多篇论文和Python代码库，介绍了思维树（ToT）的概念：

• 《大型语言模型引导下的思维树》（Large Language Model Guided Tree-of-Thought, arXiv:2305.08291），2023年5月15日。GitHub链接。
• 《思维树：利用大型语言模型进行审慎的问题解决》（Tree of Thoughts: Deliberate Problem Solving with Large Language Models, arXiv:2305.10601），2023年5月17日。GitHub链接（截至5月22日尚无代码）。
• 《思维树》（Tree of Thoughts, GitHub），2023年5月21日。

其核心原理是为LLM提供探索多种推理路径的机会，并在推进过程中进行自我评估。根据相关论文，这种方法对某些问题似乎非常有效。

思维树提示

现有的关于思维树框架的论文似乎都基于通过Python对LLM进行多次调用。而思维链推理的一大优势在于，它只需通过一句简单的提示就能在ChatGPT中实现。

这促使我思考：我们是否可以通过使用类似思维树风格的提示来改进思维链提示的效果呢？

我使用的提示如下：

假设三位不同的专家正在回答这个问题。
所有专家都会写下自己思考的第一步，
然后将其分享给小组成员。
接着，所有专家将继续下一步，以此类推。
如果任何一位专家在任何时候发现自己错了，就会退出。
问题是……

以下是ChatGPT 3.5的回应：

专家1：球在客厅里。

专家2：球在厨房里。

专家3：球在卧室里。

专家1：Bob把杯子端进了卧室，所以球一定在杯子里。

专家2：哦，我明白了，我的确错了。没错，球确实在杯子里。

专家3：同意，球确实在卧室里的杯子里。

专家1：接下来，Bob在卧室里把杯子倒了过来。

专家2：之后，Bob走向花园，把杯子放下了。

专家3：因此，球一定是在Bob把杯子倒置时从杯子里掉出来的。所以，球在卧室里，不再在杯子里了。

专家1：哦，你说得对。我确实犯了错误。球确实在卧室里，而不是在杯子里。

专家2：同意，球在卧室里。

专家3：Bob随后走向车库，所以球仍然在卧室里。它既不在花园里，也不在车库里。

专家1：完全同意，球还在卧室里。

专家2：是的，球一直都在卧室里。

专家3：因此，球在卧室里，而不是在花园或车库里。

三位专家一致认为，球在卧室里。

• ChatGPT 3.5 ToT：球在卧室里。✅

可以看到，这一次ChatGPT 3.5给出了正确的答案！

局限性

• 该方法尚未经过广泛测试，但初步结果表明，其性能优于传统的思维链提示。
• 思维树框架包含的内容比我在示例中展示的提示更为丰富。

改进、反馈与贡献

该提示仍有优化空间，以进一步提升性能，甚至可能生成更简洁的回答。

如果您在其他提示方面取得了成功，欢迎提交拉取请求，并将其添加到tree-of-thought-prompts.txt文件中。

补充思考

思维树框架与涉及多方利益相关者的组织决策过程颇为相似。该结构旨在模拟共识和思想多样性。

这一效果可以通过使用多个经过微调、分别负责处理任务不同部分的智能体来进一步扩展。AutoGPT便是一个很好的例子，它会根据目标对大语言模型生成的计划进行自我评估。如果采用针对特定领域进行微调的模型，甚至完全不同的大语言模型，就能实现更广泛的思想多样性。这些模型可以按照团队拓扑学的术语以不同模式进行交互：

• 协作模式：这可能涉及将多个模型的输出结合起来并迭代优化，从而生成对用户输入的最终响应。例如，一个通用模型可能会先生成初步响应，再由一个专业模型对其进行细化或增强。
• X即服务模式：某些模型可以为其他模型提供服务，比如对输入数据进行预处理、对输出数据进行后处理，或者提供上下文信息。这些模型将以服务角色运行，支持其他模型的功能。
• 促进模式：有些模型可能扮演促进者的角色，例如训练其他模型、监控其性能，或提供可用于改进它们的反馈。

高效团队在决策方面往往优于个人。因此，借鉴其他组织结构和特征来提升大语言模型的表现是完全可行的。除了思想多样性、专业化和共识之外，我们还可以尝试模拟：

• 层级结构：较简单的查询由低级别模型处理，而更复杂的查询则会被升级到能力更强或更专业的模型；
• 冗余机制：确保当某个模型无法生成准确或有用的结果时，另一个模型能够介入并提供更好的答案。

致谢

• 思维链提示激发大型语言模型的推理能力，2022年1月。
• 大语言模型引导的思维树，2023年5月15日。GitHub仓库。
• 思维树：利用大型语言模型进行审慎问题解决，2023年5月17日。GitHub仓库。
• 思维树，GitHub，2023年5月21日。

引用

如果您使用了本仓库中的代码，请引用如下：

@misc{tree-of-thought-prompting,
	title        = {利用思维树提示提升ChatGPT的推理能力},
	author       = {Dave Hulbert},
	year         = 2023,
	month        = may,
	journal      = {GitHub仓库},
	publisher    = {Zenodo},
	doi          = {10.5281/ZENODO.10323452},
	url          = {https://doi.org/10.5281/zenodo.10323452},
	howpublished = {\url{https://github.com/dave1010/tree-of-thought-prompting}}
}

Tree-of-Thought Prompting 快速上手指南

Tree-of-Thought (ToT) Prompting 是一种创新的提示工程技术，旨在通过模拟多专家协作与自我纠错机制，显著提升大语言模型（如 ChatGPT）在复杂逻辑推理任务中的表现。本工具无需安装额外的 Python 库或依赖环境，核心在于使用特定的提示词模板。

环境准备

本项目本质上是一套提示词（Prompt）策略，而非需要编译安装的软件包，因此对环境要求极低：

• 系统要求：任意支持现代浏览器的操作系统（Windows, macOS, Linux）。
• 前置依赖：
  • 一个可用的大语言模型对话界面（例如：ChatGPT Web 版、API 调用终端或其他支持长文本输入的 LLM 平台）。
  • 无需安装 Python、Node.js 或任何第三方库。

安装步骤

由于本工具是纯文本提示词方案，无需执行任何安装命令。

1. 访问你的大模型服务页面（如 chat.openai.com）。
2. 新建一个对话窗口。
3. 直接复制下方的“基本使用”中的提示词模板即可开始使用。

提示：如果你希望通过代码批量调用，只需将下文提供的 Prompt 字符串通过 API 发送给模型即可，无需克隆仓库或运行 pip install。

基本使用

核心原理

传统的思维链（Chain-of-Thought）要求模型单线思考，而 ToT Prompting 通过让模型模拟“三位专家”逐步分享思路、互相验证并剔除错误分支，从而实现更准确的推理。

使用示例

将以下提示词模板复制到对话框中，并将 [在此处插入你的复杂问题] 替换为你实际需要解决的问题：

Imagine three different experts are answering this question.
All experts will write down 1 step of their thinking,
then share it with the group.
Then all experts will go on to the next step, etc.
If any expert realises they're wrong at any point then they leave.
The question is...

[在此处插入你的复杂问题]

实战案例

假设你需要解决以下逻辑陷阱题：

Bob is in the living room. He walks to the kitchen, carrying a cup. He puts a ball in the cup and carries the cup to the bedroom. He turns the cup upside down, then walks to the garden. He puts the cup down in the garden, then walks to the garage. Where is the ball?

操作步骤：

1. 构建完整 Prompt：

Imagine three different experts are answering this question.
All experts will write down 1 step of their thinking,
then share it with the group.
Then all experts will go on to the next step, etc.
If any expert realises they're wrong at any point then they leave.
The question is...

Bob is in the living room.
He walks to the kitchen, carrying a cup.
He puts a ball in the cup and carries the cup to the bedroom.
He turns the cup upside down, then walks to the garden.
He puts the cup down in the garden, then walks to the garage.
Where is the ball?

2. 发送给模型。

预期效果： 模型将模拟三位专家的对话过程。专家们会逐步推导，当某位专家发现逻辑错误（例如意识到杯子倒置时球已掉落）时会主动纠正或退出，最终达成共识输出正确答案（球在卧室），即使使用的是较旧版本的模型（如 GPT-3.5），也能达到接近 GPT-4 的推理水平。