---

以其他语言阅读此内容: 🇨🇳 简体中文 | 🇨🇳 繁體中文 | 🇪🇸 Español | 🇫🇷 Français | 🇩🇪 Deutsch | 🇯🇵 日本語 | 🇰🇷 한국어 | 🇮🇳 हिन्दी | 🇸🇦 العربية | 🇮🇹 Italiano | 🇧🇷 Português | 🇷🇺 Русский | 🇧🇩 বাংলা

---

GraphBit 是一个开源的代理式 AI 框架，用于实现确定性、并发且低开销的执行。

为什么选择 GraphBit？

效率决定了谁能规模化发展。GraphBit 专为需要确定性、并发且超高效 AI 执行，同时又不产生额外开销的开发者而设计。

GraphBit 采用 Rust 核心与极简 Python 层，相比其他框架，其 CPU 使用率最多可降低 68 倍，内存占用最多可降低 140 倍，同时保持同等或更高的吞吐量。

它支持多代理并行工作流，在各步骤间持久化内存，能够从故障中自我恢复，并确保 100% 的任务可靠性。GraphBit 适用于生产环境中的各类工作负载，无论是企业级 AI 系统还是资源受限的边缘部署。

已在生产环境中使用

核心特性

• 工具选择 - LLM 能根据描述智能选择工具
• 类型安全 - 在每个执行层都进行强类型检查
• 可靠性 - 断路器、重试策略以及错误处理和故障恢复机制
• 多 LLM 支持 - OpenAI、Azure OpenAI、Anthropic、OpenRouter、DeepSeek、Replicate、Ollama、TogetherAI 等多种模型
• 资源管理 - 并发控制与内存优化
• 可观测性 - 内置追踪、结构化日志和性能指标

基准测试

GraphBit 的设计初衷是实现大规模下的高效运行，而非基于理论假设的声明，而是以实际测量结果为依据。

我们的内部基准测试套件在完全相同的工作负载下，将 GraphBit 与领先的基于 Python 的智能体框架进行了对比。

指标	GraphBit	其他框架	提升倍数
CPU 使用率	1.0× 基线	68.3× 更高	约 68 倍 CPU
内存占用	1.0× 基线	140× 更高	约 140 倍 内存
执行速度	≈ 相等 / 更快	—	稳定的吞吐量
确定性	100% 成功	不确定	可靠性保障

GraphBit 在 LLM 调用、工具调用以及多智能体链中，始终能够提供生产级别的效率。

基准测试演示

何时使用 GraphBit

如果您需要以下功能，请选择 GraphBit：

• 生产级的多智能体系统，能够在高负载下稳定运行
• 类型安全的执行和可复现的输出
• 面向混合或流式 AI 应用程序的实时编排能力
• 具备 Rust 级别的效率，同时拥有 Python 级别的易用性

如果您正在从原型阶段迈向规模化应用，或者对运行时的确定性有较高要求，那么 GraphBit 就是您的理想选择。

快速入门

安装

建议使用虚拟环境。

pip install graphbit

快速入门视频教程

环境设置

为项目配置所需的 API 密钥：

# OpenAI（可选——若使用 OpenAI 模型则必需）
export OPENAI_API_KEY=your_openai_api_key_here

# Anthropic（可选——若使用 Anthropic 模型则必需）
export ANTHROPIC_API_KEY=your_anthropic_api_key_here

安全提示：切勿将 API 密钥提交到版本控制系统中。请始终使用环境变量或安全的密钥管理工具。

基本用法

import os

from graphbit import LlmConfig, Executor, Workflow, Node, tool, GuardRailPolicyConfig

# 初始化并配置
config = LlmConfig.openai(os.getenv("OPENAI_API_KEY"), "gpt-4o-mini")

# 创建执行器
executor = Executor(config)

# 创建带有清晰描述的工具，便于 LLM 选择
@tool(_description="获取任意城市的当前天气信息")
def get_weather(location: str) -> dict:
    return {"location": location, "temperature": 22, "condition": "sunny"}

@tool(_description="执行数学计算并返回结果")
def calculate(expression: str) -> str:
    return f"Result: {eval(expression)}"

# 构建工作流
workflow = Workflow("分析流水线")

# 创建智能体节点
smart_agent = Node.agent(
    name="Smart Agent",
    prompt="巴黎的天气如何？并计算 15 + 27 是多少？",
    system_prompt="你是一位擅长查询天气和进行数学计算的助手。请使用工具准确回答问题。",
    tools=[get_weather, calculate]
)

processor = Node.agent(
    name="数据处理器",
    prompt="处理来自 Smart Agent 的结果。",
    system_prompt="""你负责处理并整理其他智能体的结果。

    - 总结并澄清关键点
    - 将输出结构化以便于阅读
    - 专注于提供可操作的见解
    """
)

# 连接并执行
id1 = workflow.add_node(smart_agent)
id2 = workflow.add_node(processor)
workflow.connect(id1, id2)

# 运行（可选：添加隐私保护策略以屏蔽或映射 PII）
result = executor.execute(workflow)
# 或者使用策略：result = executor.execute(workflow, policy=GuardRailPolicyConfig.from_json('{"guardrail_policy": {"pii_rules": [...]}}'))
print(f"工作流已完成：{result.is_success()}")
print("\nSmart Agent 输出：\n", result.get_node_output("Smart Agent"))
print("\n数据处理器输出：\n", result.get_node_output("Data Processor"))

使用 GraphBit 构建您的第一个智能体工作流

可观测性与追踪

GraphBit Tracer 可以在极少配置的情况下捕获并监控 LLM 调用和 AI 工作流。它会包装 GraphBit 的 LLM 客户端和工作流执行器，从而追踪提示、响应、令牌使用量、延迟和错误，而无需更改您的代码。

高层次架构

三层次设计确保了可靠性和性能：

• Rust 核心 - 工作流引擎、智能体和 LLM 提供者
• 编排层 - 项目管理和执行
• Python API - 基于 PyO3 的绑定，支持异步操作

Python API 集成

GraphBit 提供了丰富的 Python API，用于构建和集成智能体工作流：

• LLM 客户端 - 多提供商 LLM 集成（OpenAI、Anthropic、Azure 等）
• 工作流 - 定义和管理多智能体工作流图，并进行状态管理
• 节点 - 智能体节点、工具节点以及自定义工作流组件
• 执行器 - 支持配置管理的工作流执行引擎
• 工具系统 - 用于智能体工具的函数装饰器、注册表和执行框架
• 工作流结果 - 包含元数据、时间信息及输出访问权限的执行结果
• 嵌入 - 用于语义搜索和检索的向量嵌入
• 工作流上下文 - 工作流执行过程中共享的状态和变量
• 文档加载器 - 支持从多种格式（PDF、DOCX、TXT、JSON、CSV、XML、HTML）加载和解析文档
• 文本分割器 - 可按字符、令牌、句子或递归方式将文档分割成块

有关完整的类、方法列表及使用示例，请参阅 Python API 参考文档。

生态系统与扩展

GraphBit 的模块化架构支持外部集成：

类别	示例
大语言模型提供商	OpenAI、Anthropic、Azure OpenAI、DeepSeek、Together、Ollama、OpenRouter、Fireworks、Mistral AI、Replicate、Perplexity、HuggingFace、AI21、字节跳动、xAI 等
向量数据库	Pinecone、Qdrant、Chroma、Milvus、Weaviate、FAISS、Elasticsearch、AstraDB、Redis 等
数据库	PostgreSQL (PGVector)、MongoDB、MariaDB、IBM DB2、Redis 等
云平台	AWS (Boto3)、Azure、Google Cloud Platform 等
搜索 API	Serper、Google 搜索、GitHub 搜索、GitLab 搜索 等
嵌入模型	OpenAI Embeddings、Voyage AI 等

扩展由社区开发和维护。

参与 GraphBit 贡献

我们欢迎各类贡献。要开始参与，请参阅 贡献指南，了解开发环境搭建及相关规范。

GraphBit 由一群优秀的研究人员和工程师组成的社区共同打造。

安全性

GraphBit 致力于维护其智能体框架的安全标准。我们建议在生产环境中使用环境变量存储 API 密钥、及时更新 GraphBit，并采用适当的密钥管理方案。如果您发现任何安全漏洞，请通过 GitHub Security 或电子邮件以负责任的方式报告，而非公开创建问题。

有关详细的报告流程和响应时间表，请参阅我们的 安全策略。

许可证

GraphBit 项目采用 Apache License, Version 2.0 许可证。

完整条款与条件请参阅 完整许可证。

版权所有 © 2023–2026 InfinitiBit GmbH。保留所有权利。

GraphBit 快速上手指南

GraphBit 是一个高性能的开源 AI Agent 框架，采用 Rust 核心与 Python 接口结合，提供确定性、并发且低开销的执行能力。相比传统 Python 框架，它能显著降低 CPU 和内存占用，适合生产级多 Agent 工作流。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux, macOS 或 Windows
• Python 版本：3.9 - 3.13
• Rust 版本：1.70+ (框架底层依赖，安装 Python 包时通常会自动处理编译依赖，但建议确保系统已安装 Rust 工具链以防万一)
• 包管理器：pip
• API Keys：根据您使用的模型提供商（如 OpenAI, Anthropic 等），需提前准备好对应的 API Key。

建议：推荐使用虚拟环境（venv 或 conda）进行隔离安装。

安装步骤

使用 pip 直接安装最新版本的 GraphBit：

pip install graphbit

注：国内开发者若遇到下载缓慢问题，可使用清华或阿里镜像源加速安装：

pip install graphbit -i https://pypi.tuna.tsinghua.edu.cn/simple

基本使用

以下是一个最简单的多 Agent 工作流示例：创建一个“智能代理”节点调用工具查询天气和计算数学题，并将结果传递给“数据处理”节点进行总结。

1. 配置环境变量

在终端中设置您的 API Key（以 OpenAI 为例）：

export OPENAI_API_KEY=your_openai_api_key_here

2. 编写代码

创建 main.py 并填入以下代码：

import os

from graphbit import LlmConfig, Executor, Workflow, Node, tool

# 1. 初始化 LLM 配置
# 这里使用 OpenAI 的 gpt-4o-mini 模型
config = LlmConfig.openai(os.getenv("OPENAI_API_KEY"), "gpt-4o-mini")

# 2. 创建执行器
executor = Executor(config)

# 3. 定义工具 (Tool)
# LLM 将根据描述自动选择调用哪个工具
@tool(_description="Get current weather information for any city")
def get_weather(location: str) -> dict:
    return {"location": location, "temperature": 22, "condition": "sunny"}

@tool(_description="Perform mathematical calculations and return results")
def calculate(expression: str) -> str:
    # 注意：生产环境中请使用安全的数学计算库替代 eval
    return f"Result: {eval(expression)}"

# 4. 构建工作流 (Workflow)
workflow = Workflow("Analysis Pipeline")

# 创建第一个节点：智能代理
smart_agent = Node.agent(
    name="Smart Agent",
    prompt="What's the weather in Paris and calculate 15 + 27?",
    system_prompt="You are an assistant skilled in weather lookup and math calculations. Use tools to answer queries accurately.",
    tools=[get_weather, calculate]
)

# 创建第二个节点：数据处理器
processor = Node.agent(
    name="Data Processor",
    prompt="Process the results obtained from Smart Agent.",
    system_prompt="""You process and organize results from other agents.
    - Summarize and clarify key points
    - Structure your output for easy reading
    - Focus on actionable insights
    """
)

# 5. 连接节点并执行
id1 = workflow.add_node(smart_agent)
id2 = workflow.add_node(processor)
workflow.connect(id1, id2)

# 运行工作流
result = executor.execute(workflow)

# 6. 输出结果
print(f"Workflow completed: {result.is_success()}")
print("\nSmart Agent Output: \n", result.get_node_output("Smart Agent"))
print("\nData Processor Output: \n", result.get_node_output("Data Processor"))

3. 运行程序

在终端执行脚本：

python main.py

您将看到两个节点的执行输出，展示了 GraphBit 如何串联多个 Agent 并安全地调用工具。