Maestro - 一个用于协调 Subagents (子代理) 的 Claude Opus、GPT 和本地 LLMs (大语言模型) 框架

这个 Python 脚本演示了使用 Anthropic API (应用程序接口) 进行 AI 辅助任务分解和执行的工作流程。它利用两个 AI 模型，Opus 和 Haiku，将目标分解为子任务，执行每个子任务，并将结果优化为连贯的最终输出。

新功能：

更新了原始 Maestro 以支持 Claude 3.5 Sonnet

python maestro.py

使用 Maestro 配合任何 API，Anthropic, Gemini, OpenAI, Cohere 等

得益于使用 LiteLLM 对代码库的重写，现在选择您想要的模型变得更加容易。

只需

设置您正在使用服务的 API 密钥的环境变量 (Environment variables)

os.environ["OPENAI_API_KEY"] = "YOUR KEY"

os.environ["ANTHROPIC_API_KEY"] = "YOUR KEY"

os.environ["GEMINI_API_KEY"] = "YOUR KEY"

定义每个阶段要使用的模型

ORCHESTRATOR_MODEL = "gemini/gemini-1.5-flash-latest"

SUB_AGENT_MODEL = "gemini/gemini-1.5-flash-latest"

REFINER_MODEL = "gemini/gemini-1.5-flash-latest"

或 gpt-3.5-turbo 等。

首先安装 litellm

pip install litellm

安装依赖后运行

python maestro-anyapi.py

GPT-4o

GPT 脚本已从头更新，以支持 GPT-4o 的代码能力

安装依赖后运行

python maestro-gpt4o.py

使用 LMStudio 或 Ollama 本地运行

Lmstudio

首先在此处下载应用程序 https://lmstudio.ai/

然后使用您喜欢的方法运行本地服务器。我还建议移除应用程序的任何系统提示词 (System prompt)（留空提示字段，以便它可以利用脚本提示词）。

然后

python maestro-lmstudio.py

Ollama

Maestro 现在得益于 Ollama 平台可以在本地运行。在本地体验 Llama 3 的力量！

运行脚本之前

从此处安装 Ollama 客户端 https://ollama.com/download

然后

pip install ollama

以及

ollama.pull('llama3:70b')

这将取决于您想使用的模型，您只需要做一次，或者当新版本发布时更新模型。 在脚本中我使用了两个版本，但您可以自定义您想使用的模型

ollama.pull('llama3:70b') ollama.pull('llama3:8b')

然后

python maestro-ollama.py

高需求功能

• GROQ 支持 得益于 Groq 超快 API 响应，体验 Maestro 的力量。

pip install groq

然后

python maestro-groq.py

• 搜索 🔍

现在，当它为子代理创建任务时，Claude Opus 将执行搜索并获取最佳答案，以帮助子代理更好地解决该任务。

确保替换您的 Tavily API 以便搜索正常工作

在此处获取 https://tavily.com/

• GPT4 支持

在 maestro-gpt.py 中添加对作为 Orchestrator (协调器) 的 GPT-4 的支持 只需

python maestro-gpt.py

完成安装后。

功能

• 使用 Opus 模型将目标分解为可管理的子任务
• 使用 Haiku 模型执行每个子任务
• 为 Haiku 模型提供先前子任务的记忆以供上下文参考
• 使用 Opus 模型将子任务结果优化为最终输出
• 生成详细的交互日志，捕获整个任务分解和执行过程
• 将交互日志保存到 Markdown 文件以便轻松参考
• 利用改进的 Prompt (提示词) 使 Opus 模型更好地评估任务完成情况
• 在处理代码项目时创建代码文件和文件夹。

前置条件

要运行此脚本，您需要具备以下条件：

• 已安装 Python
• Anthropic API 密钥
• 所需的 Python 包：anthropic 和 rich

安装

1. 克隆仓库 (Repository) 或下载脚本文件。
2. 通过运行以下命令安装所需的 Python 包：

pip install -r requirements.txt

3. 将脚本中的占位符 API 密钥替换为您的实际 Anthropic API 密钥：

client = Anthropic(api_key="YOUR_API_KEY_HERE")

如果使用搜索，替换您的 Tavily API

tavily = TavilyClient(api_key="YOUR API KEY HERE")

用法

1. 打开终端 (Terminal) 或命令提示符并导航到包含脚本的目录。
2. 使用以下命令运行脚本：

python maestro.py

3. 提示时输入您的目标：

Please enter your objective: Your objective here

脚本将启动任务分解和执行过程。它将使用格式化的面板在控制台 (Console) 中显示进度和结果。

一旦过程完成，脚本将显示优化后的最终输出，并将完整的交互日志保存到基于目标命名的 Markdown 文件中。

代码结构

脚本包含以下主要函数：

• opus_orchestrator(objective, previous_results=None): 调用 Opus 模型将目标分解为子任务或提供最终输出。它使用改进的 Prompt (提示词) 来评估任务完成情况，并在目标完全实现时包含短语 "The task is complete:"。
• haiku_sub_agent(prompt, previous_haiku_tasks=None): 调用 Haiku 模型执行子任务 Prompt (提示词)，并向其提供先前子任务的记忆。
• opus_refine(objective, sub_task_results): 调用 Opus 模型审查并将子任务结果优化为连贯的最终输出。

脚本遵循迭代过程，重复调用 opus_orchestrator 函数将目标分解为子任务，直到提供最终输出。每个子任务随后由 haiku_sub_agent 函数执行，结果存储在 task_exchanges 和 haiku_tasks 列表中。

当 Opus 模型在其响应中包含短语 "The task is complete:" 时，循环终止，表明目标已完全实现。

最后，调用 opus_refine 函数审查并将子任务结果优化为最终输出。整个交互日志，包括目标、任务分解和优化后的最终输出，都保存到 Markdown 文件中。

自定义

您可以根据需要自定义脚本：

• 调整 client.messages.create() 函数调用中的 max_tokens 参数，以控制 AI 模型生成的最大 Token (令牌) 数。
• 将模型更改为您喜欢的模型，例如用 Sonnet 或 Opus 替换 Haiku。
• 通过更新 rich 库的 Panel 和 Console 配置来修改控制台输出格式。
• 通过修改相关代码部分来自定义交互日志格式和文件扩展名。

许可证

此脚本根据 MIT License (许可证) 发布。

致谢

• Anthropic 提供 AI 模型和 API。
• Rich 提供精美的控制台格式。

Star 历史

Maestro 快速上手指南

Maestro 是一个 AI 任务编排框架，支持 Claude、GPT、Gemini 及本地大模型（Ollama/LMStudio）。它能将复杂目标分解为子任务，协调多个代理执行并优化最终结果。

环境准备

• 系统要求：已安装 Python 环境。
• 模型访问：
  • 云端模型：准备对应的 API Key（Anthropic、OpenAI、Google Gemini 等）。
  • 本地模型：安装并运行 Ollama 或 LMStudio 服务。
• 搜索功能（可选）：如需启用联网搜索，需准备 Tavily API Key。

安装步骤

1. 获取源码 克隆仓库或下载脚本文件到本地。

2. 安装依赖 根据使用场景安装必要的 Python 包。

   pip install -r requirements.txt
   

   若使用多 API 支持（LiteLLM），还需安装：

   pip install litellm
   

   若使用本地 Ollama，还需安装：

   pip install ollama
   

   若使用 Groq 加速，还需安装：

   pip install groq
   

3. 配置 API Key

   • 方式一（环境变量）：适用于 maestro-anyapi.py 等多模型脚本。

   os.environ["OPENAI_API_KEY"] = "YOUR KEY" 
   os.environ["ANTHROPIC_API_KEY"] = "YOUR KEY"
   os.environ["GEMINI_API_KEY"] = "YOUR KEY"
   

   • 方式二（修改脚本）：适用于 maestro.py 原始脚本。 在脚本中找到以下行并替换为你的 Key：

   client = Anthropic(api_key="YOUR_API_KEY_HERE")
   

   若使用搜索功能，同样需替换 Tavily Key：

   tavily = TavilyClient(api_key="YOUR API KEY HERE")
   

基本使用

1. 运行脚本 根据选择的模型版本运行对应的脚本。

   原始版本（Anthropic）：

   python maestro.py
   

   多 API 支持版本：

   python maestro-anyapi.py
   

   本地 Ollama 版本：

   python maestro-ollama.py
   

2. 输入目标 根据终端提示输入你的任务目标：

   Please enter your objective: Your objective here
   

3. 查看结果 脚本将在控制台显示执行进度，完成后输出优化后的最终结果，并将详细交互日志保存为基于目标命名的 Markdown 文件。