github.devotd.
新发现大语言模型基础设施

portkey-ai/gateway v1.15.2 — 用单一 API 聚合的 AI 网关

介绍 MIT 许可的 AI 网关 portkey-ai/gateway,它通过单一 API 连接 1,600 多个 LLM 与 50 多种 AI 护栏,同时指出 v1.15.2 版本没有提供变更明细。

仓库信息portkey-ai/gateway ↗

介绍 MIT 许可的 AI 网关 portkey-ai/gateway,它通过单一 API 连接 1,600 多个 LLM 与 50 多种 AI 护栏,同时指出 v1.15.2 版本没有提供变更明细。

GitHub 项目说明: A blazing fast AI Gateway with integrated guardrails. Route to 1,600+ LLMs, 50+ AI Guardrails with 1 fast & friendly API.

星标
★ 13.2K
复刻
1.4K
语言
TypeScript
许可证
MIT
最新版本
v1.15.2
查看原始来源 ↗在 GitHub 查看 ↗

portkey-ai/gateway 是一个 MIT 许可的开源 AI 网关,通过单一 API 连接 1,600 多个 LLM 和 50 多种 AI 护栏。README 将该仓库描述为轻量级 AI Gateway,用于快速、稳定地接入语言、视觉、音频和图像模型。该仓库创建于 2023 年 8 月,最新版本是 v1.15.2。

这个项目的实用价值在于:把多个模型供应商放在同一个 API 之后,并支持自动重试与回退(fallback)、负载均衡、条件路由、护栏策略和多模态。回退是指请求失败时改走其他模型路径,负载均衡是指把请求分散到多个路径。可以根据请求条件切换路由路径,另有独立的 MCP Gateway 负责组织内部 MCP(Model Context Protocol)服务器的认证、访问控制和可观测性。实现语言为 TypeScript,GitHub 星标数为 13235。

不过,所提供的发布信息中没有 v1.15.2 的变更条目。既无法得知新增了哪些功能或修复了哪些问题,也没有给出性能测量数据。评估分数中只填写了关注度(momentum)4.1。仅凭功能广度和 MIT 许可,很难对实际使用中的性能与稳定性抱有过高期待,这需要另行验证。