MCP-LLM 桥接器

一个使用 TypeScript 实现的桥接工具，通过 Ollama 将本地大语言模型连接到 Model Context Protocol (MCP) 服务器。该桥接器使开源模型能够使用与 Claude 相同的工具和功能，从而构建功能强大的本地 AI 助手。

概述

该项目将本地大型语言模型与提供多种能力的 MCP 服务器连接起来，这些能力包括：

• 文件系统操作
• Brave 网页搜索
• GitHub 交互
• Google Drive 和 Gmail 集成
• 内存/存储
• 使用 Flux 进行图像生成

桥接器在 LLM 的输出与 MCP 的 JSON-RPC 协议之间进行转换，使得任何兼容 Ollama 的模型都能像 Claude 一样使用这些工具。

当前设置

• LLM：通过 Ollama 使用 Qwen 2.5 7B（qwen2.5-coder:7b-instruct）
• MCPs：
  • 文件系统操作（@modelcontextprotocol/server-filesystem）
  • Brave 搜索（@modelcontextprotocol/server-brave-search）
  • GitHub（@modelcontextprotocol/server-github）
  • 内存（@modelcontextprotocol/server-memory）
  • Flux 图像生成（@patruff/server-flux）
  • Gmail 和 Drive（@patruff/server-gmail-drive）

架构

• 桥接器：核心组件，负责管理工具注册和执行
• LLM 客户端：处理与 Ollama 的交互，并格式化工具调用
• MCP 客户端：管理与 MCP 服务器的连接及 JSON-RPC 通信
• 工具路由：根据工具类型将请求路由到相应的 MCP

主要特性

• 支持多 MCP，动态路由工具调用
• 对工具调用进行结构化输出验证
• 自动从用户提示中检测工具
• 强大的 Ollama 进程管理
• 详细的日志记录和错误处理

设置

1. 安装 Ollama 和所需模型：

   ollama pull qwen2.5-coder:7b-instruct
   

2. 安装 MCP 服务器：

   npm install -g @modelcontextprotocol/server-filesystem
   npm install -g @modelcontextprotocol/server-brave-search
   npm install -g @modelcontextprotocol/server-github
   npm install -g @modelcontextprotocol/server-memory
   npm install -g @patruff/server-flux
   npm install -g @patruff/server-gmail-drive
   

3. 配置凭证：

   • 设置 BRAVE_API_KEY 用于 Brave 搜索
   • 设置 GITHUB_PERSONAL_ACCESS_TOKEN 用于 GitHub
   • 设置 REPLICATE_API_TOKEN 用于 Flux
   • 运行 Gmail/Drive MCP 认证：node path/to/gmail-drive/index.js auth
   • 例如：node C:\Users\patru\AppData\Roaming\npm\node_modules\@patruff\server-gmail-drive\dist\index.js auth

配置

桥接器通过 bridge_config.json 进行配置：

• MCP 服务器定义
• LLM 设置（模型、温度等）
• 工具权限和路径

示例：

{
  "mcpServers": {
    "filesystem": {
      "command": "node",
      "args": ["path/to/server-filesystem/dist/index.js"],
      "allowedDirectory": "workspace/path"
    },
    // ... 其他 MCP 配置
  },
  "llm": {
    "model": "qwen2.5-coder:7b-instruct",
    "baseUrl": "http://localhost:11434"
  }
}

使用

1. 启动桥接器：

   npm run start
   

2. 可用命令：

   • list-tools：显示可用工具
   • 普通文本：向 LLM 发送提示
   • quit：退出程序

示例交互：

> 在网上搜索“最新的 TypeScript 特性”
[使用 Brave Search MCP 查找结果]

> 创建一个名为“project-docs”的新文件夹
[使用 Filesystem MCP 创建目录]

> 向 user@example.com 发送一封邮件
[使用 Gmail MCP 编写并发送邮件]

技术细节

工具检测

桥接器基于用户输入实现了智能工具检测：

• 邮件操作：通过电子邮件地址和关键词检测
• Drive 操作：通过文件/文件夹关键词检测
• 搜索操作：根据上下文路由到相应的搜索工具

响应处理

响应经过多个阶段处理：

1. LLM 生成结构化的工具调用
2. 桥接器验证并路由到相应的 MCP
3. MCP 执行操作并返回结果
4. 桥接器将响应格式化后返回给用户

扩展能力

该桥接器有效地将 Claude 的工具能力引入本地模型：

• 文件系统操作
• 网络搜索和研究
• 邮件和文档管理
• 代码和 GitHub 交互
• 图像生成
• 持久化内存

所有这些功能均可在本地运行，并且使用开源模型实现。

未来改进

• 增加对更多 MCP 的支持
• 实现并行工具执行
• 添加流式响应
• 改进错误恢复机制
• 增加对话记忆功能
• 支持更多 Ollama 模型

相关项目

该桥接器与更广泛的 Claude 生态系统集成：

• Model Context Protocol (MCP)
• Claude Desktop 配置
• Ollama 项目
• 各种 MCP 服务器实现

最终成果是一个功能强大的本地 AI 助手，能够在完全由您自己的硬件上运行的同时，媲美 Claude 的许多能力。

ollama-mcp-bridge 快速上手指南

ollama-mcp-bridge 是一个基于 TypeScript 的桥接工具，它能让本地运行的 Ollama 大模型（如 Qwen、Llama 等）通过 Model Context Protocol (MCP) 调用外部工具。这使得开源本地模型也能像 Claude 一样具备文件系统操作、联网搜索、GitHub 交互、邮件发送及图像生成等强大能力。

环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Windows, macOS 或 Linux
• Node.js：版本 >= 18.x (推荐最新 LTS 版本)
• Ollama：已安装并正常运行
  • 国内用户若下载缓慢，可配置环境变量加速：
    • Windows (PowerShell): $env:OLLAMA_HOST="http://your-internal-ip:11434" (需自行搭建镜像或使用代理)
    • 通常直接访问官网安装即可，模型拉取时可配合网络代理。
• API Keys：根据所需功能准备以下密钥（可选，按需配置）：
  • BRAVE_API_KEY (用于网页搜索)
  • GITHUB_PERSONAL_ACCESS_TOKEN (用于 GitHub 操作)
  • REPLICATE_API_TOKEN (用于 Flux 图像生成)

安装步骤

1. 拉取大模型

首先通过 Ollama 拉取推荐的代码模型（也可替换为其他支持的模型）：

ollama pull qwen2.5-coder:7b-instruct

2. 安装 MCP 服务端

全局安装所需的 MCP 服务器组件。这些组件提供了具体的工具能力：

npm install -g @modelcontextprotocol/server-filesystem
npm install -g @modelcontextprotocol/server-brave-search
npm install -g @modelcontextprotocol/server-github
npm install -g @modelcontextprotocol/server-memory
npm install -g @patruff/server-flux
npm install -g @patruff/server-gmail-drive

提示：若 npm 下载缓慢，建议使用国内镜像源：

npm config set registry https://registry.npmmirror.com

3. 配置凭证

根据您计划使用的功能，设置相应的环境变量或运行认证命令：

• 环境变量设置 (以 Linux/macOS 为例，Windows 请在系统属性中设置)：

  export BRAVE_API_KEY="your_brave_key"
  export GITHUB_PERSONAL_ACCESS_TOKEN="your_github_token"
  export REPLICATE_API_TOKEN="your_replicate_token"
  

• Gmail/Drive 认证： 首次使用需运行认证脚本获取授权令牌：

  node path/to/gmail-drive/index.js auth
  

  (注：请将 path/to/... 替换为实际安装路径，例如 Windows 下可能位于 C:\Users\<用户名>\AppData\Roaming\npm\node_modules\@patruff\server-gmail-drive\dist\index.js)

4. 配置文件

在项目根目录创建 bridge_config.json，定义 MCP 服务路径和 LLM 设置。示例如下：

{
  "mcpServers": {
    "filesystem": {
      "command": "node",
      "args": ["path/to/server-filesystem/dist/index.js"],
      "allowedDirectory": "/absolute/path/to/your/workspace"
    },
    "brave-search": {
      "command": "node",
      "args": ["path/to/server-brave-search/dist/index.js"]
    }
  },
  "llm": {
    "model": "qwen2.5-coder:7b-instruct",
    "baseUrl": "http://localhost:11434"
  }
}

请确保 args 中的路径指向您全局安装的模块位置，或通过 npm root -g 查找具体路径。

基本使用

启动桥接服务

在终端中运行以下命令启动程序：

npm run start

交互示例

启动后，您可以直接在命令行输入自然语言指令，系统会自动识别意图并调用对应的 MCP 工具。

示例 1：联网搜索

> Search the web for "latest TypeScript features"

系统将自动调用 Brave Search MCP 并返回搜索结果。

示例 2：文件系统操作

> Create a new folder called "project-docs"

系统将调用 Filesystem MCP 在当前允许的工作目录下创建文件夹。

示例 3：查看可用工具

> list-tools

列出当前所有已注册并可用的工具列表。

退出程序 输入 quit 即可退出。