思维图（GoT）

这是 思维图：利用大型语言模型解决复杂问题 的官方实现。
该框架通过将问题建模为操作图（GoO），并以大型语言模型（LLM）作为引擎自动执行，从而具备解决复杂问题的能力。
该框架设计灵活且可扩展，不仅能够使用新的 GoT 方法解决问题，还支持实现类似于 CoT 或 ToT 等传统方法的操作图。

设置指南

要使用本框架，您需要安装 Python 3.8 或更高版本。

安装 GoT

在执行以下两种安装方法之前，请确保已激活您的 Python 环境（如有）。
如果您是普通用户，只需使用 graph_of_thoughts，可以直接从 PyPI 安装：

pip install graph_of_thoughts

如果您是开发者，希望对代码进行修改，可以从源码以可编辑模式安装：

git clone https://github.com/spcl/graph-of-thoughts.git
cd graph-of-thoughts
pip install -e .

配置 LLM

要使用该框架，您需要访问一个大型语言模型。
请按照 Controller README 中的说明配置您选择的 LLM。

快速入门

以下代码片段展示了如何使用该框架，采用类似 CoT 的方法解决包含 32 个数字的排序问题。
请确保在运行代码前已遵循 设置指南。

from examples.sorting.sorting_032 import SortingPrompter, SortingParser, utils
from graph_of_thoughts import controller, language_models, operations

# 问题输入

to_be_sorted = "[0, 2, 6, 3, 8, 7, 1, 1, 6, 7, 7, 7, 7, 9, 3, 0, 1, 7, 9, 1, 3, 5, 1, 3, 6, 4, 5, 4, 7, 3, 5, 7]"

# 创建操作图
gop = operations.GraphOfOperations()
gop.append_operation(operations.Generate())
gop.append_operation(operations.Score(scoring_function=utils.num_errors))
gop.append_operation(operations.GroundTruth(utils.test_sorting))

# 配置语言模型（假设当前目录下有包含 OpenAI API 密钥的 config.json 文件）
lm = language_models.ChatGPT("config.json", model_name="chatgpt")

# 创建控制器
ctrl = controller.Controller(
  lm, 
  gop, 
  SortingPrompter(), 
  SortingParser(),
  # 下列字典用于配置初始思维状态
  {
    "original": to_be_sorted,
    "current": "",
    "method": "cot"
  }
)

# 运行控制器并生成输出图
ctrl.run()
ctrl.output_graph("output_cot.json")

若要运行更为复杂的 GoT 方法，可以使用以下代码片段。

from examples.sorting.sorting_032 import SortingPrompter, SortingParser, got, utils
from graph_of_thoughts import controller, language_models, operations

# 问题输入

to_be_sorted = "[0, 2, 6, 3, 8, 7, 1, 1, 6, 7, 7, 7, 7, 9, 3, 0, 1, 7, 9, 1, 3, 5, 1, 3, 6, 4, 5, 4, 7, 3, 5, 7]"

# 获取操作图
gop = got()

# 配置语言模型（假设当前目录下有包含 OpenAI API 密钥的 config.json 文件）
lm = language_models.ChatGPT("config.json", model_name="chatgpt")

# 创建控制器
ctrl = controller.Controller(
  lm, 
  gop, 
  SortingPrompter(), 
  SortingParser(),
  # 下列字典用于配置初始思维状态
  {
    "original": to_be_sorted,
    "current": "",
    "phase": 0,
    "method": "got"
  }
)

# 运行控制器并生成输出图
ctrl.run()
ctrl.output_graph("output_got.json")

您可以通过检查输出图 output_cot.json 和 output_got.json 来比较两种结果。
最终思维状态的得分表示排序列表中的错误数量。

文档

论文对框架及其组件进行了高层次的概述。
若想更深入地了解框架，您可以阅读各个模块的文档。
尤其是 Controller 和 Operations 模块，对于理解如何充分利用该框架至关重要。
我们特别注重对代码的全面文档化，以便您轻松理解其工作原理及扩展方式。

示例

examples 目录包含多个可使用该框架解决的问题示例，其中包括论文中介绍的案例。
这是学习如何使用该框架解决实际问题的良好起点。
每个示例都包含一个 README.md 文件，其中提供了运行和尝试的说明。代码文档齐全，易于理解。
您也可以直接从主目录运行这些示例。请注意，结果将保存在相应的示例子目录中。

例如，您可以尝试：

python -m examples.sorting.sorting_032
python -m examples.keyword_counting.keyword_counting

论文结果

您可以按照 examples 目录中的说明运行论文中的实验。
但如果您只想查看和重新绘制结果，可以使用 paper 目录。

引用

如果您觉得本仓库很有价值，请为它点亮星标！
有任何问题或反馈吗？欢迎联系 nils.blach@inf.ethz.ch 或提交问题。
如果在您的工作中使用了本项目，请使用以下引用：

@article{besta2024got,
  title = {{思维图：利用大型语言模型解决复杂问题}},
  author = {Besta, Maciej and Blach, Nils and Kubicek, Ales and Gerstenberger, Robert and Gianinazzi, Lukas and Gajda, Joanna and Lehmann, Tomasz and Podstawski, Micha{\l} and Niewiadomski, Hubert and Nyczyk, Piotr and Hoefler, Torsten},
  year = 2024,
  month = {Mar},
  journal = {AAAI人工智能会议论文集},
  volume = 38,
  number = 16,
  pages = {17682-17690},
  publisher = {AAAI Press},
  doi = {10.1609/aaai.v38i16.29720},
  url = {https://ojs.aaai.org/index.php/AAAI/article/view/29720}
}

Graph of Thoughts (GoT) 快速上手指南

Graph of Thoughts (GoT) 是一个利用大语言模型（LLM）解决复杂问题的框架。它将问题建模为“操作图”（Graph of Operations, GoO），支持从简单的思维链（CoT）到复杂的图结构推理等多种策略。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux, macOS 或 Windows
• Python 版本：3.8 或更高版本
• 大语言模型访问权限：您需要配置一个可用的 LLM（如 OpenAI ChatGPT），并准备好 API Key。

安装步骤

建议先创建并激活一个独立的 Python 虚拟环境。

方式一：用户安装（推荐）

如果您仅需使用框架功能，无需修改源码，可直接从 PyPI 安装：

pip install graph_of_thoughts

国内加速提示：如果遇到下载速度慢的问题，可以使用清华源或阿里源：

pip install graph_of_thoughts -i https://pypi.tuna.tsinghua.edu.cn/simple

方式二：开发者安装

如果您需要修改源码或贡献代码，请以可编辑模式从源代码安装：

git clone https://github.com/spcl/graph-of-thoughts.git
cd graph-of-thoughts
pip install -e .

配置 LLM

安装完成后，您需要配置所使用的语言模型。框架默认通过 config.json 文件读取配置（例如 OpenAI API Key）。请参考项目中的 graph_of_thoughts/controller/README.md 文档进行具体配置。

基本使用

以下示例展示了如何使用 GoT 框架解决一个包含 32 个数字的排序问题。该示例采用类似思维链（CoT）的方法。

请确保已按照上述步骤完成安装和 LLM 配置，并在当前目录下准备好包含 API Key 的 config.json 文件。

from examples.sorting.sorting_032 import SortingPrompter, SortingParser, utils
from graph_of_thoughts import controller, language_models, operations

# 问题输入：待排序的数字列表
to_be_sorted = "[0, 2, 6, 3, 8, 7, 1, 1, 6, 7, 7, 7, 7, 9, 3, 0, 1, 7, 9, 1, 3, 5, 1, 3, 6, 4, 5, 4, 7, 3, 5, 7]"

# 1. 创建操作图 (Graph of Operations)
gop = operations.GraphOfOperations()
gop.append_operation(operations.Generate())
gop.append_operation(operations.Score(scoring_function=utils.num_errors))
gop.append_operation(operations.GroundTruth(utils.test_sorting))

# 2. 配置语言模型 (假设 config.json 在当前目录)
lm = language_models.ChatGPT("config.json", model_name="chatgpt")

# 3. 创建控制器
ctrl = controller.Controller(
  lm, 
  gop, 
  SortingPrompter(), 
  SortingParser(),
  # 初始化思考状态
  {
    "original": to_be_sorted,
    "current": "",
    "method": "cot"
  }
)

# 4. 运行控制器并生成输出图
ctrl.run()
ctrl.output_graph("output_cot.json")

运行结束后，您可以查看生成的 output_cot.json 文件。文件中最终思考状态的分数（score）表示排序结果中的错误数量，分数越低代表效果越好。

如需尝试更复杂的完整 GoT 方法，可参考官方文档中关于 got() 函数的用法示例。