portkey-ai/gateway 是一个 MIT 许可的开源 AI 网关,通过单一 API 连接 1,600 多个 LLM 和 50 多种 AI 护栏。README 将该仓库描述为轻量级 AI Gateway,用于快速、稳定地接入语言、视觉、音频和图像模型。该仓库创建于 2023 年 8 月,最新版本是 v1.15.2。
这个项目的实用价值在于:把多个模型供应商放在同一个 API 之后,并支持自动重试与回退(fallback)、负载均衡、条件路由、护栏策略和多模态。回退是指请求失败时改走其他模型路径,负载均衡是指把请求分散到多个路径。可以根据请求条件切换路由路径,另有独立的 MCP Gateway 负责组织内部 MCP(Model Context Protocol)服务器的认证、访问控制和可观测性。实现语言为 TypeScript,GitHub 星标数为 13235。
不过,所提供的发布信息中没有 v1.15.2 的变更条目。既无法得知新增了哪些功能或修复了哪些问题,也没有给出性能测量数据。评估分数中只填写了关注度(momentum)4.1。仅凭功能广度和 MIT 许可,很难对实际使用中的性能与稳定性抱有过高期待,这需要另行验证。