github.devotd.
新发现大语言模型基础设施

theagentrouter/agent-router v1.2.0 — 基于 Envoy 的模型与工具统一网关

theagentrouter/agent-router 是一个基于 Envoy Gateway 的 AI 控制平面,将模型与工具统一到一个 OpenAI 兼容 API 之后,最新发布版本为 v1.2.0。

仓库信息theagentrouter/agent-router ↗

theagentrouter/agent-router 是一个基于 Envoy Gateway 的 AI 控制平面,将模型与工具统一到一个 OpenAI 兼容 API 之后,最新发布版本为 v1.2.0。

GitHub 项目说明: Manages Unified Access to Generative AI Services built on Envoy Gateway

星标
★ 2.2K
复刻
422
语言
Go
许可证
Apache-2.0
最新版本
v1.2.0
查看原始来源 ↗在 GitHub 查看 ↗

theagentrouter/agent-router 是一个基于 Envoy Gateway 的开源控制平面,用于管理对生成式 AI 服务的统一访问。它使用 Go 编写,以 Apache-2.0 许可证公开,此前名称为 Envoy AI Gateway。从现有信息看,最新发布版本为 v1.2.0,而发布说明中没有列出该版本的变更内容。

该项目把不同的模型与工具整合到一个 OpenAI 兼容 API 之后。托管服务商、自建推理、MCP 服务器都可以放在同一个接口背后。凭证、路由、配额(用量限制)、故障转移和用量归因通过 Envoy 与 Envoy Gateway 集中管理,因此同时运营多个 AI 服务的平台团队可以把控制点集中到一处。README 将这一组合介绍为 Agentic AI Foundation 的项目。该仓库创建于 2024 年 10 月,星标数为 2247。

不过,可供判断的依据有限。发布说明中没有说明 v1.2.0 改动了什么,因此无法确认新增功能与修复的范围。评估记录中没有技术与质量分数,只剩下一个 3.2 的动能分数。也没有给出性能测量或采用案例。把模型与工具集中到一处统一管控的结构,符合同时运营多个 AI 服务的团队。在确认 v1.2.0 的变更内容之前,很难把它当作采用决策的依据。