---

Agentgateway 是一个基于AI原生协议（MCP 和 A2A）构建的开源代理，可为跨任何框架和环境的代理到LLM、代理到工具以及代理之间通信提供即插即用的安全性、可观性与治理能力。

Agentgateway简介视频

核心功能

• LLM网关
  通过统一的OpenAI兼容API，将流量路由至主要的LLM提供商（OpenAI、Anthropic、Gemini、Bedrock等），并提供预算与支出控制、提示增强、负载均衡及故障转移功能。

• MCP网关
  通过MCP协议将LLM与工具及外部数据源连接，支持工具联邦、stdio/HTTP/SSE/可流式传输的HTTP传输方式、OpenAPI集成及OAuth认证。

• A2A网关
  使用A2A协议实现安全的代理间通信，具备能力发现、模态协商及任务协作功能。

• 推理路由
  利用Kubernetes Inference Gateway扩展，对自托管模型进行智能路由，决策依据包括GPU利用率、KV缓存、LoRA适配器及队列深度。

• 护栏
  多层内容过滤，支持正则表达式、OpenAI审核、AWS Bedrock Guardrails、Google Model Armor及自定义Webhook。

• 安全与可观测性
  支持身份验证（JWT、API密钥、OAuth）、基于CEL策略引擎的细粒度RBAC、速率限制、TLS以及OpenTelemetry指标/日志/追踪。

开始使用

• 独立快速入门 — 在几分钟内即可开始使用agentgateway。
• Kubernetes快速入门 — 使用内置控制器和Gateway API在Kubernetes上部署。

文档

根据您的部署环境，请查阅以下文档：

• agentgateway.dev/docs：适用于本地或私有部署等独立部署场景。这些文档针对上游agentgateway/agentgateway GitHub项目。
• agentgateway.dev/docs/kubernetes/latest：适用于使用内置Kubernetes控制器和Gateway API支持的Kubernetes部署。

Agentgateway内置了UI界面，供您探索代理间或代理与工具之间的连接：

赞助商

感谢赞助商对agentgateway开发的支持！

贡献

有关如何为agentgateway项目做出贡献的说明，请参阅CONTRIBUTION.md文件。

社区会议

要加入社区会议，请将agentgateway日历添加到您的Google账户。随后您可以在日历中找到活动详情。

社区会议的录制内容将发布在我们的Google云端硬盘上。

路线图

agentgateway目前正处于积极开发中。如果您希望增加某项缺失的功能，请在我们的GitHub仓库中提交问题。

贡献者

感谢所有帮助使agentgateway更加完善的贡献者。

星标历史

---

Agentgateway 快速上手指南

Agentgateway 是专为 Agentic AI 打造的首个完整连接解决方案。它基于 MCP（Model Context Protocol）和 A2A 协议构建，为 LLM、工具及智能体之间的通信提供统一的安全、可观测性和治理能力。

1. 环境准备

在开始之前，请确保您的开发环境满足以下要求：

• 操作系统：Linux, macOS, 或 Windows (WSL2 推荐)。
• 容器运行时：已安装并运行 Docker 或 Podman（用于快速单机部署）。
• 可选环境：若需 Kubernetes 部署，需准备一个可用的 K8s 集群（v1.25+）及 kubectl 工具。
• 网络要求：确保能够访问 GitHub 容器仓库及主要 LLM 提供商 API。

注意：目前官方文档未明确提供中国专用镜像源。如遇拉取镜像缓慢，建议配置 Docker 国内镜像加速器（如阿里云、腾讯云等）来加速 ghcr.io/agentgateway/agentgateway 镜像的拉取。

2. 安装步骤

方式一：单机快速启动 (Standalone)

使用 Docker 是最简单的启动方式，无需额外依赖。

docker run -d \
  --name agentgateway \
  -p 8080:8080 \
  -p 8443:8443 \
  ghcr.io/agentgateway/agentgateway:latest

启动后，服务将监听：

• 8080：HTTP 端口
• 8443：HTTPS 端口

方式二：Kubernetes 部署

如果您需要在 K8s 环境中使用，可以通过 Helm 或 YAML 直接部署。以下是使用官方 Gateway API 控制器的简要命令：

# 添加 Helm 仓库 (如果尚未添加)
helm repo add agentgateway https://agentgateway.github.io/helm-charts
helm repo update

# 安装 agentgateway
helm install agentgateway agentgateway/agentgateway \
  --namespace agentgateway-system \
  --create-namespace

3. 基本使用

安装完成后，您可以通过内置的 UI 或 API 进行配置。

访问管理界面

打开浏览器访问以下地址查看仪表盘（默认无密码，生产环境请配置认证）：

http://localhost:8080

在 UI 中，您可以直观地配置：

• LLM 路由：对接 OpenAI、Anthropic、Gemini 等提供商。
• MCP 服务器：连接外部工具和数据源。
• 安全策略：设置 API Key 鉴权、速率限制和内容过滤（Guardrails）。

最简单的 API 调用示例

Agentgateway 提供了兼容 OpenAI 格式的 API 接口。假设您已配置好后端 LLM 路由，可以使用以下 curl 命令测试转发功能：

curl http://localhost:8080/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -d '{
    "model": "gpt-4o",
    "messages": [
      {
        "role": "user",
        "content": "Hello, agentgateway!"
      }
    ]
  }'

下一步

• 深入文档：访问 agentgateway.dev/docs 查看 standalone 详细配置。
• K8s 进阶：访问 agentgateway.dev/docs/kubernetes/latest 学习 Gateway API 集成。
• 社区交流：加入官方 Discord 或查看 GitHub Issues 获取最新特性支持。