Just Prompt - 一款面向 LLM 提供商的轻量级 MCP 服务器

just-prompt 是一个模型控制协议 (MCP) 服务器，为包括 OpenAI、Anthropic、Google Gemini、Groq、DeepSeek 和 Ollama 在内的多家大型语言模型 (LLM) 提供商提供统一的接口。请查看我们如何使用 ceo_and_board 工具，借助 o3 轻松做出艰难决策：点击观看。

工具列表

该服务器提供了以下 MCP 工具：

• prompt：将提示发送至多个 LLM 模型

  • 参数：
    • text：提示文本
    • models_prefixed_by_provider（可选）：带有提供商前缀的模型列表。若未提供，则使用默认模型。

• prompt_from_file：从文件中读取提示并将其发送至多个 LLM 模型

  • 参数：
    • abs_file_path：包含提示的文件的绝对路径（必须是绝对路径，不能是相对路径）
    • models_prefixed_by_provider（可选）：带有提供商前缀的模型列表。若未提供，则使用默认模型。

• prompt_from_file_to_file：从文件中读取提示，发送至多个 LLM 模型，并将响应保存为 Markdown 文件

  • 参数：
    • abs_file_path：包含提示的文件的绝对路径（必须是绝对路径，不能是相对路径）
    • models_prefixed_by_provider（可选）：带有提供商前缀的模型列表。若未提供，则使用默认模型。
    • abs_output_dir（默认值：“.”）：用于保存响应 Markdown 文件的绝对目录路径（必须是绝对路径，不能是相对路径）

• ceo_and_board：将提示发送至多个“董事会成员”模型，并由“CEO”模型根据它们的响应做出决策

  • 参数：
    • abs_file_path：包含提示的文件的绝对路径（必须是绝对路径，不能是相对路径）
    • models_prefixed_by_provider（可选）：用作董事会成员的模型列表。若未提供，则使用默认模型。
    • abs_output_dir（默认值：“.”）：用于保存响应文件和 CEO 决策的绝对目录路径（必须是绝对路径，不能是相对路径）
    • ceo_model（默认值：“openai:o3”）：用于 CEO 决策的模型，格式为“提供商:模型”

• list_providers：列出所有可用的 LLM 提供商

  • 参数：无

• list_models：列出特定 LLM 提供商的所有可用模型

  • 参数：
    • provider：要列出模型的提供商（例如，“openai”或“o”）

提供商前缀

每个模型都必须以提供商名称作为前缀

使用简称可加快引用速度

• o 或 openai：OpenAI
  • o:gpt-4o-mini
  • openai:gpt-4o-mini
• a 或 anthropic：Anthropic
  • a:claude-3-5-haiku
  • anthropic:claude-3-5-haiku
• g 或 gemini：Google Gemini
  • g:gemini-2.5-pro-exp-03-25
  • gemini:gemini-2.5-pro-exp-03-25
• q 或 groq：Groq
  • q:llama-3.1-70b-versatile
  • groq:llama-3.1-70b-versatile
• d 或 deepseek：DeepSeek
  • d:deepseek-coder
  • deepseek:deepseek-coder
• l 或 ollama：Ollama
  • l:llama3.1
  • ollama:llama3.1

功能特性

• 面向多个 LLM 提供商的统一 API
• 支持从字符串或文件中读取文本提示
• 并行运行多个模型
• 自动校正模型名称，使用 --default-models 列表中的第一个模型
• 可将响应保存到文件中
• 轻松列出可用的提供商和模型

安装说明

# 克隆仓库
git clone https://github.com/yourusername/just-prompt.git
cd just-prompt

# 使用 uv 安装
uv sync

环境变量

创建一个 .env 文件来存放你的 API 密钥（可以复制 .env.sample 文件）：

cp .env.sample .env

然后编辑 .env 文件以添加你的 API 密钥（或在你的 shell 中导出它们）：

OPENAI_API_KEY=your_openai_api_key_here
ANTHROPIC_API_KEY=your_anthropic_api_key_here
GEMINI_API_KEY=your_gemini_api_key_here
GROQ_API_KEY=your_groq_api_key_here
DEEPSEEK_API_KEY=your_deepseek_api_key_here
OLLAMA_HOST=http://localhost:11434

Claude Code 安装

在所有这些示例中，请将目录替换为 just-prompt 目录的路径。

默认模型设置为 openai:o3:high、openai:o4-mini:high、anthropic:claude-opus-4-20250514、anthropic:claude-sonnet-4-20250514、gemini:gemini-2.5-pro-preview-03-25 和 gemini:gemini-2.5-flash-preview-04-17。

如果你直接从仓库使用 Claude Code，可以在 .mcp.json 文件中看到我们已将默认模型设置为……

{
  "mcpServers": {
    "just-prompt": {
      "type": "stdio",
      "command": "uv",
      "args": [
        "--directory",
        ".",
        "run",
        "just-prompt",
        "--default-models",
        "openai:o3:high,openai:o4-mini:high,anthropic:claude-opus-4-20250514,anthropic:claude-sonnet-4-20250514,gemini:gemini-2.5-pro-preview-03-25,gemini:gemini-2.5-flash-preview-04-17"
      ],
      "env": {}
    }
  }
}

--default-models 参数用于设置当 API 端点未显式指定模型时使用的默认模型。列表中的第一个模型还将在需要时用于模型名称校正。此参数可以是一个由逗号分隔的模型列表。

启动服务器时，它会自动检查你环境中可用的 API 密钥，并告知你可以使用哪些提供商。如果缺少某个密钥，相应的提供商将被列为不可用，但服务器仍会启动，并且你可以继续使用那些可用的提供商。

使用 mcp add-json

复制以下内容并粘贴到 Claude Code 中，但不要运行，直到你先复制 JSON：

claude mcp add just-prompt "$(pbpaste)"

待复制的 JSON：

{
    "command": "uv",
    "args": ["--directory", ".", "run", "just-prompt"]
}

自定义默认模型设置为 openai:gpt-4o：

{
    "command": "uv",
    "args": ["--directory", ".", "run", "just-prompt", "--default-models", "openai:gpt-4o"]
}

设置多个默认模型：

{
    "command": "uv",
    "args": ["--directory", ".", "run", "just-prompt", "--default-models", "openai:o3:high,openai:o4-mini:high,anthropic:claude-opus-4-20250514,anthropic:claude-sonnet-4-20250514,gemini:gemini-2.5-pro-preview-03-25,gemini:gemini-2.5-flash-preview-04-17"]
}

使用 mcp add 并指定项目范围

# 使用默认模型
claude mcp add just-prompt -s project \
  -- \
    uv --directory . \
    run just-prompt

# 使用自定义默认模型
claude mcp add just-prompt -s project \
  -- \
  uv --directory . \
  run just-prompt --default-models "openai:gpt-4o"

# 使用多个默认模型
claude mcp add just-prompt -s user \
  -- \
  uv --directory . \
  run just-prompt --default-models "openai:o3:high,openai:o4-mini:high,anthropic:claude-opus-4-20250514,anthropic:claude-sonnet-4-20250514,gemini:gemini-2.5-pro-preview-03-25,gemini:gemini-2.5-flash-preview-04-17"

mcp remove

claude mcp remove just-prompt

运行测试

uv run pytest

代码库结构

.
├── ai_docs/                   # AI模型详细信息的文档
│   ├── extending_thinking_sonny.md
│   ├── llm_providers_details.xml
│   ├── openai-reasoning-effort.md
│   └── pocket-pick-mcp-server-example.xml
├── example_outputs/           # 不同模型的示例输出
├── list_models.py             # 列出可用LLM模型的脚本
├── prompts/                   # 示例提示文件
├── pyproject.toml             # Python项目配置文件
├── specs/                     # 项目规格说明
│   ├── init-just-prompt.md
│   ├── new-tool-llm-as-a-ceo.md
│   └── oai-reasoning-levels.md
├── src/                       # 源代码目录
│   └── just_prompt/
│       ├── __init__.py
│       ├── __main__.py
│       ├── atoms/             # 核心组件
│       │   ├── llm_providers/ # 各提供商的具体实现
│       │   │   ├── anthropic.py
│       │   │   ├── deepseek.py
│       │   │   ├── gemini.py
│       │   │   ├── groq.py
│       │   │   ├── ollama.py
│       │   │   └── openai.py
│       │   └── shared/        # 共享工具和数据类型
│       │       ├── data_types.py
│       │       ├── model_router.py
│       │       ├── utils.py
│       │       └── validator.py
│       ├── molecules/         # 高层功能
│       │   ├── ceo_and_board_prompt.py
│       │   ├── list_models.py
│       │   ├── list_providers.py
│       │   ├── prompt.py
│       │   ├── prompt_from_file.py
│       │   └── prompt_from_file_to_file.py
│       ├── server.py          # MCP服务器实现
│       └── tests/             # 测试目录
│           ├── atoms/         # 原子层的测试
│           │   ├── llm_providers/
│           │   └── shared/
│           └── molecules/     # 分子层的测试
│               ├── test_ceo_and_board_prompt.py
│               ├── test_list_models.py
│               ├── test_list_providers.py
│               ├── test_prompt.py
│               ├── test_prompt_from_file.py
│               └── test_prompt_from_file_to_file.py
└── ultra_diff_review/         # 差异对比审查输出

上下文引导

阅读README.md和pyproject.toml，然后运行git ls-files以及eza --git-ignore --tree命令，以了解项目的整体背景。

OpenAI o系列的推理力度

对于OpenAI o系列推理模型（o4-mini、o3-mini、o3），你可以控制模型在生成可见答案之前进行的内部推理量。

在模型名称后（紧接提供商前缀之后）添加以下后缀之一：

• :low   – 最小化内部推理（更快、更便宜）
• :medium – 平衡模式（若未指定则默认使用此模式）
• :high  – 彻底推理（较慢、消耗更多token）

示例：

• openai:o4-mini:low
• o:o4-mini:high

当存在推理力度后缀时，just‑prompt会自动切换到OpenAI Responses API（如果可用），并设置相应的reasoning.effort参数。如果安装的OpenAI SDK版本较旧，则会优雅地回退到Chat Completions端点，并嵌入一条内部系统指令来近似请求的推理力度。

Claude的思考token

Anthropic公司的Claude模型claude-opus-4-20250514和claude-sonnet-4-20250514支持通过思考token扩展其思考能力。这使得Claude能够在回答问题之前进行更为深入的思考过程。

你可以通过在模型名称后添加以下格式的后缀来启用思考token功能：

• anthropic:claude-opus-4-20250514:1k - 为Opus 4使用1024个思考token
• anthropic:claude-sonnet-4-20250514:4k - 为Sonnet 4使用4096个思考token
• anthropic:claude-opus-4-20250514:8000 - 为Opus 4使用8000个思考token

注意事项：

• 思考token功能仅适用于claude-opus-4-20250514、claude-sonnet-4-20250514和claude-3-7-sonnet-20250219等型号。
• 有效的思考token预算范围为1024至16000。
• 超出此范围的值将自动调整至有效区间内。
• 你可以使用k记法（如1k、4k等）或具体数字（如1024、4096等）来指定预算。

Gemini的思考预算

Google的Gemini模型gemini-2.5-flash-preview-04-17支持通过思考预算扩展其思考能力。这使得Gemini能够在给出响应之前进行更加深入的推理。

你可以通过在模型名称后添加以下格式的后缀来启用思考预算功能：

• gemini:gemini-2.5-flash-preview-04-17:1k - 使用1024个思考预算
• gemini:gemini-2.5-flash-preview-04-17:4k - 使用4096个思考预算
• gemini:gemini-2.5-flash-preview-04-17:8000 - 使用8000个思考预算

注意事项：

• 思考预算功能仅适用于gemini-2.5-flash-preview-04-17型号。
• 有效的思考预算范围为0至24576。
• 超出此范围的值将自动调整至有效区间内。
• 你可以使用k记法（如1k、4k等）或具体数字（如1024、4096等）来指定预算。

资源

• https://docs.anthropic.com/en/api/models-list?q=list+models
• https://github.com/googleapis/python-genai
• https://platform.openai.com/docs/api-reference/models/list
• https://api-docs.deepseek.com/api/list-models
• https://github.com/ollama/ollama-python
• https://github.com/openai/openai-python

掌握AI编程

学习如何利用AI进行编程，掌握基础的AI编程原则。

关注IndyDevDan YouTube频道，获取更多AI编程技巧与窍门。

Just Prompt 快速上手指南

Just Prompt 是一个轻量级的 MCP（Model Control Protocol）服务器，旨在为各种大语言模型（LLM）提供商提供统一的接口。它支持 OpenAI、Anthropic、Google Gemini、Groq、DeepSeek 和 Ollama，允许你并行向多个模型发送提示词，甚至模拟"CEO 与董事会”的决策模式。

环境准备

在开始之前，请确保你的系统满足以下要求：

• 操作系统：Linux, macOS 或 Windows (WSL)
• Python 环境：推荐安装 uv (高性能 Python 包管理器)，项目依赖此工具进行依赖管理。
  • 安装 uv: curl -LsSf https://astral.sh/uv/install.sh | sh
• API Keys：你需要至少一个 LLM 提供商的 API Key。
• Ollama (可选)：如果使用本地模型，需确保 Ollama 服务正在运行 (http://localhost:11434)。

安装步骤

1. 克隆项目并安装依赖

git clone https://github.com/yourusername/just-prompt.git
cd just-prompt

# 使用 uv 同步安装依赖
uv sync

2. 配置环境变量

复制示例配置文件并填入你的 API Keys：

cp .env.sample .env

编辑 .env 文件，填入对应的密钥：

OPENAI_API_KEY=your_openai_api_key_here
ANTHROPIC_API_KEY=your_anthropic_api_key_here
GEMINI_API_KEY=your_gemini_api_key_here
GROQ_API_KEY=your_groq_api_key_here
DEEPSEEK_API_KEY=your_deepseek_api_key_here
# Ollama 通常不需要 Key，只需确认地址
OLLAMA_HOST=http://localhost:11434

注意：启动服务器时，它会自动检测哪些 Key 有效。缺失 Key 的提供商将被标记为不可用，但不会阻止服务器启动。

基本使用

Just Prompt 主要作为 MCP 服务器运行，通常配合支持 MCP 的客户端（如 Claude Code）使用。

1. 模型命名规范

所有模型名称必须加上提供商前缀。可以使用全称或简写：

简写	全称	示例
o	openai	o:gpt-4o-mini
a	anthropic	a:claude-3-5-haiku
g	gemini	g:gemini-2.5-pro-exp-03-25
q	groq	q:llama-3.1-70b-versatile
d	deepseek	d:deepseek-coder
l	ollama	l:llama3.1

高级用法（推理控制）：

• OpenAI o-series: 添加 :low, :medium, :high 后缀控制推理深度 (例: o:o3:high)。
• Claude: 添加思考 Token 数量 (例: a:claude-opus-4-20250514:4k)。
• Gemini: 添加思考预算 (例: g:gemini-2.5-flash-preview-04-17:1k)。

2. 集成到 Claude Code

你可以将 Just Prompt 添加为 MCP 服务器，以便在 Claude Code 中直接调用多模型能力。

方法 A：使用 JSON 配置添加

复制以下 JSON 配置（根据需要修改 --default-models），然后在终端执行：

claude mcp add just-prompt "$(pbpaste)"

剪贴板内容示例（设置默认模型列表）：

{
    "command": "uv",
    "args": ["--directory", ".", "run", "just-prompt", "--default-models", "openai:o3:high,anthropic:claude-opus-4-20250514,gemini:gemini-2.5-pro-preview-03-25"]
}

方法 B：使用命令行参数添加

# 添加到当前项目范围 (-s project)
claude mcp add just-prompt -s project \
  -- \
  uv --directory . \
  run just-prompt --default-models "openai:gpt-4o"

3. 核心功能示例

一旦集成成功，你可以在对话中使用以下工具：

• 并行提问 (prompt): 向多个模型发送同一段文本，对比回答。

  "请使用 prompt 工具，向 o:gpt-4o 和 a:claude-3-5-sonnet 发送提示词：'解释量子纠缠'。"

• 文件输入输出 (prompt_from_file_to_file): 读取本地文件作为提示词，并将多个模型的回答保存为 Markdown 文件。

  "使用 prompt_from_file_to_file 读取 /abs/path/to/prompt.txt，发送给默认模型列表，结果保存到 /abs/path/to/output 目录。"

• CEO 决策模式 (ceo_and_board): 让多个模型扮演“董事会成员”提供意见，再指定一个更强的模型（如 o3）作为"CEO"综合意见做出最终决策。

  "使用 ceo_and_board 工具，基于文件 /abs/path/to/decision_context.txt，让默认模型列表作为董事会，由 openai:o3 担任 CEO 做出最终决定，结果保存在当前目录。"

• 查询可用资源:

  • list_providers: 列出当前环境中已配置可用的提供商。
  • list_models: 列出特定提供商（如 openai）下的所有可用模型。