github.devotd.
新发现大语言模型基础设施

quantumnous/new-api v1.0.0-rc.45 — 自托管 AI API 网关

quantumnous/new-api 是一个用 Go 编写的自托管 AI API 网关,在单台服务器上管理路由、认证、用量与成本;目前公开的最新版本是 v1.0.0-rc.45。

仓库信息quantumnous/new-api ↗

quantumnous/new-api 是一个用 Go 编写的自托管 AI API 网关,在单台服务器上管理路由、认证、用量与成本;目前公开的最新版本是 v1.0.0-rc.45。

GitHub 项目说明: A unified AI model hub for aggregation & distribution. It supports cross-converting various LLMs into OpenAI-compatible, Claude-compatible, or Gemini-compatible formats. A centralized gateway for personal and enterprise model management.

星标
★ 50.3K
复刻
12.2K
语言
Go
许可证
AGPL-3.0
最新版本
v1.0.0-rc.45
查看原始来源 ↗在 GitHub 查看 ↗

quantumnous/new-api 是一个自托管 AI 网关,把多个 AI 模型提供商的 API 接入同一台服务器,并以统一的形式提供给客户端。项目使用 Go 编写,采用 AGPL-3.0 许可证。目前公开的最新版本是 v1.0.0-rc.45,属于候选版本标记,而提供的记录中没有该版本的更新日志。

该项目是一个把多种模型整合在一起的统一 AI 模型中心。其核心功能是把不同的 LLM 转换为 OpenAI 兼容、Claude 兼容和 Gemini 兼容的格式后再对外提供。该仓库创建于 2023 年 11 月 10 日。

README 将该项目描述为面向应用、智能体和团队的自托管 AI 网关。它连接上游模型服务,即外部模型提供商的 API,为客户端提供一致的 API,并在 Web 控制台中管理路由、访问权限、用量和成本。也可以同时接入多个提供商,运营私有的多模型服务。GitHub 星标数为 50341。

不过,提供的信息中没有吞吐量或响应时间等性能数据。评分方面,满分 10 分中只有「动能」一项填了 7.5 分,而「新颖度」「技术」「质量」各项均为空白。仅凭这些信息很难判断其在实际运营中的规模与稳定性。若要以性能为前提,就必须直接查阅 v1.0.0-rc.45 的发布说明。