Kong Gateway：4.3 万 Star 的 API 网关，现在也能管 AI 流量了

Kong Gateway 在 GitHub 上有 4.3 万 Star，API 网关领域里的老项目了。最近它加了一个新方向：开始支持 LLM 和 MCP 流量管理。

先说基础能力。Kong 把 API 管理的脏活累活集中到一个层里处理。路由、负载均衡、健康检查、认证鉴权，这些功能它都有。认证方式也覆盖得全，JWT、OAuth、基本认证、ACL 都支持。

它跑在 Kubernetes 上是原生支持的，官方维护了一个 Ingress Controller，不用额外折腾。部署模式有两种比较实用：一种是无数据库的声明式部署，配置全写文件里，适合简单场景；另一种是混合部署，控制面和数据面分开，适合规模大一点的团队。

重点说说 AI 这块

Kong 现在提供了一个统一的 LLM API 接口。什么意思呢？你后端接了 OpenAI、Anthropic、Gemini、Bedrock、Azure AI、Mistral 这些不同厂商的模型，Kong 能帮你统一路由。前端调用方不用关心后端到底用的哪个模型，Kong 在中间做转换和分发。

对做 AI 应用的团队来说，这个能力解决了实际问题。大模型厂商多，每个接口格式不同，业务代码里到处写适配逻辑很麻烦。Kong 把这层抽出来，业务代码只对接一个统一接口。

另外它还做了 MCP 流量治理。MCP 是 Anthropic 推出来的模型上下文协议，最近在 AI 工具链里用得越来越多。Kong 对 MCP 的支持包括流量安全、可观测性，甚至能把现有的 RESTful API 自动生成 MCP 接口。这个功能比较新，但方向是对的。

AI 相关的功能有 60 多个，包括语义安全、语义缓存、语义路由、AI 可观测性。数字看着多，做的事情其实就一件：把传统 API 网关的治理手段搬到 AI 流量上来。

插件生态

Kong 的扩展性靠插件体系支撑。官方有个 Plugin Hub，上面有 AWS Lambda、请求响应转换、日志、监控等各种插件。社区也能贡献，你自己写的插件可以发布上去给别人用。

插件开发支持 Lua、Go、JavaScript 三种语言，门槛不算高。如果你有特殊的流量处理需求，写个插件挂上去就行，不用改 Kong 本身的代码。

适合什么场景

Kong 适合的场景比较明确：

微服务架构下，服务之间调用关系复杂，需要一个统一的网关做流量管理。Kong 在这个方向上打磨了很多年，稳定性经过验证。

AI 应用场景，后端接了多个大模型厂商，需要统一路由和治理。这是 Kong 新加的能力，对正在做 AI 产品的团队比较有吸引力。

已经有 Kubernetes 集群的团队，想在现有基础设施上加一层网关，Kong 的 Ingress Controller 可以直接用，不用额外引入一套东西。

不太适合的场景：团队规模很小，服务就两三个，上一个完整的网关反而增加了复杂度。这种情况下用 Nginx 或者云厂商自带的负载均衡可能更简单。

和同类比怎么样

API 网关这个赛道竞争挺激烈。Traefik、Envoy、APISIX 都是 Kong 的竞品。Kong 的优势在于生态成熟、文档完善、商业支持到位。劣势是 Lua 技术栈相对小众，性能在某些基准测试里不如 Envoy。

但 Kong 现在把 AI 流量管理加进来，算是和竞品拉开了一个差异化。其他网关目前还没在这个方向上投入这么多。

Kong 本身是一个成熟的 API 网关，AI 能力是它新增的卖点。业务涉及大量 API 管理或者多模型路由的话，可以花时间看看。

网关，AI 能力是它新增的卖点。业务涉及大量 API 管理或者多模型路由的话，可以花时间看看。