提供了一个统一的框架，能够从简单的自然语言提示中显式地构建复杂的人类“思维过程”。 用户可以像拼搭乐高积木一样，将一系列节点组合起来。这些节点链可以被设计成明确地遵循一种自然的结构化“思维过程”。

不同排列方式的节点可以代表不同的功能，从而允许用户整合多种功能来构建多功能智能体。

一个基础智能体的实现可能只需要一个子任务提示列表即可，因此即使是没有编程经验的人也能设计和调整它。

目录

• 安装
• 快速入门
• 使用内置LLM_API
• 无需编程经验使用AgentKit
• 节点组件
• 常见问题
• 引用AgentKit

安装

安装稳定版AgentKit非常简单：

pip install agentkit-llm

若要安装带有wandb支持的AgentKit：

pip install agentkit-llm[logging]

若要安装支持OpenAI和Claude LLM-API的AgentKit：

pip install agentkit-llm[proprietary]

若要安装具有完整内置LLM-API支持的AgentKit（包括Llama）：

pip install agentkit-llm[all]

或者，若要从本仓库的主分支安装最新版本，运行以下命令：

git clone https://github.com/holmeswww/AgentKit && cd AgentKit
pip install -e .

快速入门

AgentKit中的基本构建块是节点，每个节点包含针对特定子任务的自然语言提示。这些节点通过依赖关系规范连接在一起，以指定评估顺序。不同的节点排列方式可以表示不同的逻辑和思维过程。

在推理时，AgentKit会按照指定的顺序以有向无环图（DAG）的形式评估所有节点。

import agentkit
from agentkit import Graph, BaseNode

import agentkit.llm_api

LLM_API_FUNCTION = agentkit.llm_api.get_query("gpt-4-turbo")

LLM_API_FUNCTION.debug = True # 关闭此选项以启用API级别的错误处理与重试

graph = Graph()

subtask1 = "使用LLM智能体作为游戏AI有哪些优缺点？" 
node1 = BaseNode(subtask1, subtask1, graph, LLM_API_FUNCTION, agentkit.compose_prompt.BaseComposePrompt(), verbose=True)
graph.add_node(node1)

subtask2 = "请为题为‘游戏中的LLM智能体’的文章提供一个提纲。"
node2 = BaseNode(subtask2, subtask2，graph，LLM_API_FUNCTION，agentkit.compose_prompt.BaseComposePrompt(), verbose=True)
graph.add_node(node2)

subtask3 = "现在，请围绕‘游戏中的LLM智能体’这一主题撰写一篇完整的文章。"
node3 = BaseNode(subtask3，subtask3，graph，LLM_API_FUNCTION，agentkit.compose_prompt.BaseComposePrompt(), verbose=True)
graph.add_node(node3)

# 添加节点之间的依赖关系
graph.add_edge(subtask1, subtask2)
graph.add_edge(subtask1, subtask3)
graph.add_edge(subtask2, subtask3)

result = graph.evaluate() # 输出一个包含提示与回答对的字典

LLM_API_FUNCTION 可以是任何接受 msg:list 和 shrink_idx:int 作为输入，并输出 llm_result:str 和 usage:dict 的LLM API函数。其中，msg 是提示（默认采用OpenAI格式），而 shrink_idx:int 是当提示过长时，LLM应缩短提示长度的索引。

AgentKit通过LLM_API_FUNCTION跟踪每个节点的token使用情况：

usage = {
    'prompt': $提示token计数,
    'completion': $完成token计数,
}

内置LLM-API

内置的agentkit.llm_api函数需要使用[proprietary]或[all]设置进行安装。详情请参阅安装指南。

目前，内置API支持OpenAI和Anthropic，详情请参见https://pypi.org/project/openai/ 和 https://pypi.org/project/anthropic/。

要使用OpenAI模型，需设置环境变量 OPENAI_KEY 和 OPENAI_ORG。或者，您也可以将OpenAI的“密钥”和“组织ID”分别写入~/.openai/openai.key文件的前两行。

要使用Azure OpenAI模型，需设置环境变量 AZURE_OPENAI_API_KEY、AZURE_OPENAI_API_VERSION、AZURE_OPENAI_ENDPOINT 和 AZURE_DEPLOYMENT_NAME。或者，您可以将Azure OpenAI的API密钥、API版本、端点和部署名称存储在~/.openai/azure_openai.key文件的前四行。

要使用Anthropic模型，需设置环境变量 ANTHROPIC_KEY。或者，您也可以将Anthropic的“密钥”写入~/.openai/openai.key文件的第三行。

要使用Ollama模型，请参阅https://github.com/ollama/ollama获取安装说明。然后设置 OLLAMA_URL 和 OLLAMA_TOKENIZER_PATH，或者将OLLAMA_TOKENIZER_PATH和OLLAMA_URL存储在~/.ollama/ollama_model.info文件的前两行。

LLM_API_FUNCTION = agentkit.llm_api.get_query("ollama-llama3")

无需编程经验使用AgentKit

首先，按照安装指南使用[all]设置安装AgentKit。

然后，设置环境变量 OPENAI_KEY 和 OPENAI_ORG，填入您的OpenAI密钥和组织ID。

接着，运行以下命令以调用命令行界面（CLI）：

git clone https://github.com/holmeswww/AgentKit && cd AgentKit
cd examples/prompt_without_coding
python generate_graph.py

节点组件

在每个节点内部（如图左侧所示），AgentKit 会运行一个内置流程，该流程会对输入进行预处理（Compose），然后使用预处理后的输入和提示 $q_v$ 向 LLM 发起查询，并可选地对 LLM 的输出进行后处理（After-query）。

为了支持分支等高级功能，AgentKit 提供了 API，允许在推理时动态修改 DAG（如图右侧所示）。根据某些祖先节点的 LLM 响应，可以动态添加或移除节点和边。

常见问题解答

问： 我正在使用默认的 agentkit.llm_api，但调用 graph.evaluate() 时程序似乎卡住了。

答： 默认情况下，LLM_API 函数会捕获并重试所有 API 错误。请为每个节点设置 verbose=True，以查看具体是哪个节点卡住了；同时将 LLM_API_FUNCTION.debug=True，以便了解导致错误的具体原因。

引用 AgentKit

@inproceedings{agentkit,
  title = {AgentKit: Flow Engineering with Graphs, not Coding},
  author = {Wu, Yue and Fan, Yewen and Min, So Yeon and Prabhumoye, Shrimai and McAleer, Stephen and Bisk, Yonatan and Salakhutdinov, Ruslan and Li, Yuanzhi and Mitchell, Tom},
  year = {2024},
  booktitle = {COLM},
}

星标历史

AgentKit 快速上手指南

AgentKit 是一个基于图（Graph）的代理构建框架，允许用户通过组合自然语言提示词节点来设计复杂的“思维流程”，无需编写复杂代码即可构建多功能 AI 代理。

环境准备

• 操作系统：Linux, macOS, Windows
• Python 版本：3.8 及以上
• 前置依赖：
  • pip 包管理工具
  • 网络连接（用于下载依赖和调用 LLM API）
  • LLM API 密钥（如 OpenAI Key、Anthropic Key 等，根据所选模型准备）

注意：国内开发者若遇到 PyPI 下载缓慢问题，建议使用清华或阿里镜像源加速安装。

安装步骤

1. 安装稳定版

pip install agentkit-llm -i https://pypi.tuna.tsinghua.edu.cn/simple

2. 可选扩展安装

• 带日志记录功能（集成 wandb）：

  pip install agentkit-llm[logging] -i https://pypi.tuna.tsinghua.edu.cn/simple
  

• 支持专有模型（OpenAI/Claude）：

  pip install agentkit-llm[proprietary] -i https://pypi.tuna.tsinghua.edu.cn/simple
  

• 全功能支持（包含 Llama 等开源模型）：

  pip install agentkit-llm[all] -i https://pypi.tuna.tsinghua.edu.cn/simple
  

3. 安装开发版（最新特性）

git clone https://github.com/holmeswww/AgentKit && cd AgentKit
pip install -e . -i https://pypi.tuna.tsinghua.edu.cn/simple

基本使用

以下示例展示如何创建一个简单的三节点思维链，依次完成分析、大纲生成和全文写作任务。

1. 配置 LLM API

确保已设置环境变量（以 OpenAI 为例）：

export OPENAI_KEY="your_openai_key"
export OPENAI_ORG="your_org_id"

或将密钥写入 ~/.openai/openai.key 文件。

2. 编写并运行脚本

创建 main.py 文件，填入以下代码：

import agentkit
from agentkit import Graph, BaseNode
import agentkit.llm_api

# 初始化 LLM 调用函数
LLM_API_FUNCTION = agentkit.llm_api.get_query("gpt-4-turbo")
LLM_API_FUNCTION.debug = True  # 开启调试可查看详细错误重试信息

# 创建图对象
graph = Graph()

# 定义子任务节点
subtask1 = "What are the pros and cons for using LLM Agents for Game AI?" 
node1 = BaseNode(subtask1, subtask1, graph, LLM_API_FUNCTION, agentkit.compose_prompt.BaseComposePrompt(), verbose=True)
graph.add_node(node1)

subtask2 = "Give me an outline for an essay titled 'LLM Agents for Games'." 
node2 = BaseNode(subtask2, subtask2, graph, LLM_API_FUNCTION, agentkit.compose_prompt.BaseComposePrompt(), verbose=True)
graph.add_node(node2)

subtask3 = "Now, write a full essay on the topic 'LLM Agents for Games'."
node3 = BaseNode(subtask3, subtask3, graph, LLM_API_FUNCTION, agentkit.compose_prompt.BaseComposePrompt(), verbose=True)
graph.add_node(node3)

# 建立节点依赖关系（有向无环图）
graph.add_edge(subtask1, subtask2)
graph.add_edge(subtask1, subtask3)
graph.add_edge(subtask2, subtask3)

# 执行评估
result = graph.evaluate() 
print(result) # 输出包含每个节点的提示词与回答对的字典

3. 运行结果

执行脚本：

python main.py

AgentKit 将按依赖顺序自动执行节点，最终返回完整的思维链结果。