kong

GitHub
43.2k 5.1k 中等 1 次阅读 今天Apache-2.0图像开发框架插件语言模型Agent
AI 解读 由 AI 自动生成,仅供参考

Kong 是一款云原生、高性能的网关工具,专为管理 API、大语言模型(LLM)及模型上下文协议(MCP)流量而设计。它作为微服务架构中的核心枢纽,统一处理请求代理、路由分发、负载均衡、健康检查及身份认证等通用功能,帮助团队从繁琐的基础设施维护中解放出来,专注于核心业务逻辑的开发。

对于需要构建稳定后端架构或集成 AI 能力的开发者与运维工程师而言,Kong 能有效解决服务间通信复杂、流量控制困难以及 AI 接口安全缺失等痛点。其独特亮点在于强大的插件扩展机制和对 AI 场景的深度支持:不仅提供多模型路由、语义安全防护和详细的流量分析,还能无缝运行于 Kubernetes 环境。无论是传统 Web 服务还是新兴的 Agent 应用,Kong 都能通过灵活的配置确保系统的高可用性与安全性,是连接各类服务与用户的可靠桥梁。

使用场景

某电商公司正在将其传统微服务架构升级,并在客服系统中集成多个大语言模型(LLM)以提供智能导购和售后支持。

没有 kong 时

  • 接口管理混乱:每个微服务和 LLM 提供商的 API 密钥硬编码在业务代码中,一旦密钥轮换或供应商切换,需重新发布所有服务,维护成本极高。
  • 流量控制缺失:面对促销高峰,缺乏统一的限流机制,导致后端核心数据库和昂贵的 LLM 调用配额被瞬间耗尽,系统频繁雪崩。
  • 安全漏洞频发:不同团队各自实现鉴权逻辑,标准不一,且无法统一拦截针对 AI 接口的提示词注入攻击,数据泄露风险巨大。
  • 可观测性盲区:无法集中监控各 LLM 模型的响应延迟、令牌消耗及错误率,难以评估哪个模型性价比最高或故障根源何在。

使用 kong 后

  • 统一网关路由:Kong 作为唯一入口集中管理所有微服务与 LLM 路由,通过插件动态处理认证与协议转换,更换模型供应商只需修改配置,无需重启业务服务。
  • 智能流量治理:利用 Kong 的限流插件精准控制每秒请求数,并针对 AI 流量设置基于令牌用量的配额保护,确保核心业务在高并发下依然稳定。
  • 增强语义安全:启用 Kong 的 AI 专用插件,自动检测并拦截恶意提示词注入,同时统一实施 OAuth2/JWT 认证,构建起标准化的安全防线。
  • 全景数据分析:通过内置分析功能实时可视化各模型的延迟、成本与成功率,帮助团队快速决策模型路由策略,显著降低运营成本。

Kong 将分散的 API 与 AI 流量治理转化为标准化的基础设施,让研发团队从繁琐的运维中解放,专注于核心业务创新。

运行环境要求

操作系统
  • Linux
  • macOS
  • Windows (通过 Docker)
GPU

未说明

内存

未说明

依赖
notesKong 是一个基于 Nginx/OpenResty 的 API 网关,主要通过 Docker 容器化部署。官方推荐使用 docker-compose 进行快速启动(支持有数据库模式和无数据库模式)。它原生支持 Kubernetes。虽然提供 AI/LLM 相关功能(如路由、观测),但工具本身不依赖本地 GPU 运行,而是作为代理层连接外部 AI 服务。插件开发支持 Lua、Go 和 JavaScript。
python未说明
Docker
Docker Compose
PostgreSQL (可选数据库)
Kong Kubernetes Ingress Controller (可选)
kong hero image

快速开始

Stars GitHub 提交活动 构建状态 版本 许可证 Twitter 关注

Kong 或 Kong Gateway 是一款云原生、平台无关、可扩展的 API 𖧹 LLM 取得以及 MCP 网关,以其高性能和通过插件实现的高度可扩展性而著称。它还提供先进的 AI 流量管理能力,包括多 LLM 支持、语义安全、MCP 流量安全与分析等功能。

通过提供代理、路由、负载均衡、健康检查、认证(以及更多功能), Kong 成为编排微服务或传统 API 流量——以及代理型 LLM 和 MCP——的核心层,操作简便。

得益于其官方的 Kubernetes Ingress Controller,Kong 可以在 Kubernetes 上原生运行。



安装 | 文档 | 讨论区 | 论坛 | 博客 | 构建 | AI 网关 | 云端托管的 Kong


入门指南

如果您更倾向于使用云端托管的 Kong,可以 注册 Kong Konnect 的免费试用版,并在几分钟内开始使用。否则,您可以按照以下说明,在您自己的基础设施上开始使用 Kong。

让我们通过在不到 5 分钟内为 API 添加认证功能来试用 Kong。

我们建议使用下面提供的 docker-compose 部署方式,但如果您希望以无数据库模式运行 Kong Gateway,也可以参考 Docker 安装指南

无论您是在云端、裸金属服务器上,还是使用容器部署,都可以在我们的 官方安装页面 上找到所有支持的部署方式。

  1. 首先,克隆 Docker 仓库并进入 compose 文件夹。
  $ git clone https://github.com/Kong/docker-kong
  $ cd docker-kong/compose/
  1. 使用以下命令启动 Gateway 堆栈:
  $ KONG_DATABASE=postgres docker-compose --profile database up

现在,Gateway 已经在本地主机的以下端口上可用:

  • :8000 - 通过 Kong 将流量发送到您的服务
  • :8001 - 使用 Admin API 或 decK 配置 Kong
  • :8002 - 访问 Kong 的管理 Web UI (Kong Manager),地址为 localhost:8002

接下来,请按照 快速入门指南 来了解 Gateway 的各项功能。

开始使用用于 LLM 和 MCP 的 AI 网关

如果您想开始使用包含 LLM 和 MCP 功能的 Kong AI 网关,请参阅 官方 AI 文档

功能

通过将常见的 API、AI 和 MCP 功能集中管理于贵组织的所有服务之上,Kong Gateway 为工程团队创造了更多自由,使他们能够专注于最重要的挑战。

Kong 的主要功能包括:

  • 高级路由、负载均衡、健康检查——均可通过 RESTful Admin API 或声明式配置进行自定义。
  • 使用 JWT、基本认证、OAuth、ACL 等方法对 API 进行身份验证和授权。
  • 通用 LLM API,可跨多个提供商路由,如 OpenAI、Anthropic、GCP Gemini、AWS Bedrock、Azure AI、Databricks、Mistral、Huggingface 等。
  • MCP 流量治理、MCP 安全性和 MCP 可观测性,以及从任何 RESTful API 自动生成 MCP 的功能。
  • 60 多种 AI 功能,如 AI 可观测性、语义安全与缓存、语义路由等。
  • 代理、SSL/TLS 终止以及对 L4 或 L7 流量的支持。
  • 插件可用于实施流量控制、速率限制、请求/响应转换、日志记录、监控等,并设有插件开发者中心。
  • 精湛的部署模式,如声明式无数据库部署和混合部署(控制平面/数据平面分离),且不存在供应商锁定。
  • 原生支持 ingress controller,可用于服务 Kubernetes。

插件中心

插件提供了扩展 Gateway 使用范围的高级功能。许多由 Kong Inc. 和社区开发的插件,如 AWS Lambda、Correlation ID 和 Response Transformer,都在 插件中心 中展示。

请为插件中心贡献力量,让您的下一个创新想法得以发布并供更广泛的社区使用!

贡献

我们非常欢迎 Pull Requests,并不断努力使开发者贡献变得尽可能简单。在开始使用 Kong Gateway 进行开发之前,请熟悉以下开发者资源:

请使用 插件开发指南 来构建新颖的插件,或者浏览在线版的 Kong 源代码文档,即 插件开发工具包 (PDK) 参考。开发者可以使用 LuaGoJavaScript 来开发插件。

发布版本

有关特定版本的详细信息,请参阅 变更日志。Gateway 版本遵循 SemVer 规范

加入社区

Konnect Cloud

Kong Inc. 提供多种方式增强 Kong Gateway 的商业订阅服务。Kong 的 Konnect Cloud 订阅客户可以享受额外的网关功能、商业支持,以及访问 Kong 托管(SaaS)控制平面平台的权限。Konnect Cloud 平台的功能包括实时分析、服务目录、开发者门户等等!立即开始使用 Konnect Cloud。

许可证

版权所有 2016-2026 Kong Inc.

根据 Apache 许可证第 2.0 版(“许可证”)授权;
除非符合许可证规定,否则不得使用本文件。
您可以在以下网址获取许可证副本:

   https://www.apache.org/licenses/LICENSE-2.0

除非适用法律要求或书面同意,否则软件按“原样”分发,
不提供任何形式的保证或条件。
有关许可的具体语言、权限和限制,请参阅许可证。

版本历史

3.9.12025/06/04
3.9.02024/12/13
3.8.12024/11/18
3.8.02024/09/11
2.8.52024/06/24
3.7.12024/06/21
3.7.02024/05/28
3.6.12024/03/04
3.6.02024/02/09
3.5.02023/11/08
3.4.22023/10/12
3.4.12023/10/03
2.8.42023/09/20
3.4.02023/08/09
3.3.12023/07/11
3.3.02023/05/18
3.2.22023/03/16
3.2.12023/03/01
3.2.02023/02/21
3.0.22022/12/09

常见问题

相似工具推荐

openclaw

OpenClaw 是一款专为个人打造的本地化 AI 助手,旨在让你在自己的设备上拥有完全可控的智能伙伴。它打破了传统 AI 助手局限于特定网页或应用的束缚,能够直接接入你日常使用的各类通讯渠道,包括微信、WhatsApp、Telegram、Discord、iMessage 等数十种平台。无论你在哪个聊天软件中发送消息,OpenClaw 都能即时响应,甚至支持在 macOS、iOS 和 Android 设备上进行语音交互,并提供实时的画布渲染功能供你操控。 这款工具主要解决了用户对数据隐私、响应速度以及“始终在线”体验的需求。通过将 AI 部署在本地,用户无需依赖云端服务即可享受快速、私密的智能辅助,真正实现了“你的数据,你做主”。其独特的技术亮点在于强大的网关架构,将控制平面与核心助手分离,确保跨平台通信的流畅性与扩展性。 OpenClaw 非常适合希望构建个性化工作流的技术爱好者、开发者,以及注重隐私保护且不愿被单一生态绑定的普通用户。只要具备基础的终端操作能力(支持 macOS、Linux 及 Windows WSL2),即可通过简单的命令行引导完成部署。如果你渴望拥有一个懂你

349.3k|★★★☆☆|1周前
Agent开发框架图像

stable-diffusion-webui

stable-diffusion-webui 是一个基于 Gradio 构建的网页版操作界面,旨在让用户能够轻松地在本地运行和使用强大的 Stable Diffusion 图像生成模型。它解决了原始模型依赖命令行、操作门槛高且功能分散的痛点,将复杂的 AI 绘图流程整合进一个直观易用的图形化平台。 无论是希望快速上手的普通创作者、需要精细控制画面细节的设计师,还是想要深入探索模型潜力的开发者与研究人员,都能从中获益。其核心亮点在于极高的功能丰富度:不仅支持文生图、图生图、局部重绘(Inpainting)和外绘(Outpainting)等基础模式,还独创了注意力机制调整、提示词矩阵、负向提示词以及“高清修复”等高级功能。此外,它内置了 GFPGAN 和 CodeFormer 等人脸修复工具,支持多种神经网络放大算法,并允许用户通过插件系统无限扩展能力。即使是显存有限的设备,stable-diffusion-webui 也提供了相应的优化选项,让高质量的 AI 艺术创作变得触手可及。

162.1k|★★★☆☆|1周前
开发框架图像Agent

everything-claude-code

everything-claude-code 是一套专为 AI 编程助手(如 Claude Code、Codex、Cursor 等)打造的高性能优化系统。它不仅仅是一组配置文件,而是一个经过长期实战打磨的完整框架,旨在解决 AI 代理在实际开发中面临的效率低下、记忆丢失、安全隐患及缺乏持续学习能力等核心痛点。 通过引入技能模块化、直觉增强、记忆持久化机制以及内置的安全扫描功能,everything-claude-code 能显著提升 AI 在复杂任务中的表现,帮助开发者构建更稳定、更智能的生产级 AI 代理。其独特的“研究优先”开发理念和针对 Token 消耗的优化策略,使得模型响应更快、成本更低,同时有效防御潜在的攻击向量。 这套工具特别适合软件开发者、AI 研究人员以及希望深度定制 AI 工作流的技术团队使用。无论您是在构建大型代码库,还是需要 AI 协助进行安全审计与自动化测试,everything-claude-code 都能提供强大的底层支持。作为一个曾荣获 Anthropic 黑客大奖的开源项目,它融合了多语言支持与丰富的实战钩子(hooks),让 AI 真正成长为懂上

158.1k|★★☆☆☆|今天
开发框架Agent语言模型

opencode

OpenCode 是一款开源的 AI 编程助手(Coding Agent),旨在像一位智能搭档一样融入您的开发流程。它不仅仅是一个代码补全插件,而是一个能够理解项目上下文、自主规划任务并执行复杂编码操作的智能体。无论是生成全新功能、重构现有代码,还是排查难以定位的 Bug,OpenCode 都能通过自然语言交互高效完成,显著减少开发者在重复性劳动和上下文切换上的时间消耗。 这款工具专为软件开发者、工程师及技术研究人员设计,特别适合希望利用大模型能力来提升编码效率、加速原型开发或处理遗留代码维护的专业人群。其核心亮点在于完全开源的架构,这意味着用户可以审查代码逻辑、自定义行为策略,甚至私有化部署以保障数据安全,彻底打破了传统闭源 AI 助手的“黑盒”限制。 在技术体验上,OpenCode 提供了灵活的终端界面(Terminal UI)和正在测试中的桌面应用程序,支持 macOS、Windows 及 Linux 全平台。它兼容多种包管理工具,安装便捷,并能无缝集成到现有的开发环境中。无论您是追求极致控制权的资深极客,还是渴望提升产出的独立开发者,OpenCode 都提供了一个透明、可信

144.3k|★☆☆☆☆|今天
Agent插件

ComfyUI

ComfyUI 是一款功能强大且高度模块化的视觉 AI 引擎,专为设计和执行复杂的 Stable Diffusion 图像生成流程而打造。它摒弃了传统的代码编写模式,采用直观的节点式流程图界面,让用户通过连接不同的功能模块即可构建个性化的生成管线。 这一设计巧妙解决了高级 AI 绘图工作流配置复杂、灵活性不足的痛点。用户无需具备编程背景,也能自由组合模型、调整参数并实时预览效果,轻松实现从基础文生图到多步骤高清修复等各类复杂任务。ComfyUI 拥有极佳的兼容性,不仅支持 Windows、macOS 和 Linux 全平台,还广泛适配 NVIDIA、AMD、Intel 及苹果 Silicon 等多种硬件架构,并率先支持 SDXL、Flux、SD3 等前沿模型。 无论是希望深入探索算法潜力的研究人员和开发者,还是追求极致创作自由度的设计师与资深 AI 绘画爱好者,ComfyUI 都能提供强大的支持。其独特的模块化架构允许社区不断扩展新功能,使其成为当前最灵活、生态最丰富的开源扩散模型工具之一,帮助用户将创意高效转化为现实。

108.3k|★★☆☆☆|6天前
开发框架图像Agent

gemini-cli

gemini-cli 是一款由谷歌推出的开源 AI 命令行工具,它将强大的 Gemini 大模型能力直接集成到用户的终端环境中。对于习惯在命令行工作的开发者而言,它提供了一条从输入提示词到获取模型响应的最短路径,无需切换窗口即可享受智能辅助。 这款工具主要解决了开发过程中频繁上下文切换的痛点,让用户能在熟悉的终端界面内直接完成代码理解、生成、调试以及自动化运维任务。无论是查询大型代码库、根据草图生成应用,还是执行复杂的 Git 操作,gemini-cli 都能通过自然语言指令高效处理。 它特别适合广大软件工程师、DevOps 人员及技术研究人员使用。其核心亮点包括支持高达 100 万 token 的超长上下文窗口,具备出色的逻辑推理能力;内置 Google 搜索、文件操作及 Shell 命令执行等实用工具;更独特的是,它支持 MCP(模型上下文协议),允许用户灵活扩展自定义集成,连接如图像生成等外部能力。此外,个人谷歌账号即可享受免费的额度支持,且项目基于 Apache 2.0 协议完全开源,是提升终端工作效率的理想助手。

100.8k|★★☆☆☆|1周前
插件Agent图像