github.devotd.
新着LLMインフラ

quantumnous/new-api v1.0.0-rc.45 — セルフホスト型 AI API ゲートウェイ

Go で書かれたセルフホスト型 AI API ゲートウェイの quantumnous/new-api は、1 台のサーバーでルーティング・認証・使用量・コストを管理します。公開されている最新リリースは v1.0.0-rc.45 です。

リポジトリ情報quantumnous/new-api ↗

Go で書かれたセルフホスト型 AI API ゲートウェイの quantumnous/new-api は、1 台のサーバーでルーティング・認証・使用量・コストを管理します。公開されている最新リリースは v1.0.0-rc.45 です。

GitHub の説明: A unified AI model hub for aggregation & distribution. It supports cross-converting various LLMs into OpenAI-compatible, Claude-compatible, or Gemini-compatible formats. A centralized gateway for personal and enterprise model management.

スター
★ 50.3K
フォーク
12.2K
言語
Go
ライセンス
AGPL-3.0
最新リリース
v1.0.0-rc.45
原文を見る ↗GitHub で見る ↗

quantumnous/new-api は、複数の AI モデルプロバイダーの API を 1 台のサーバーに接続し、クライアントには一貫した形で提供するセルフホスト型 AI ゲートウェイです。Go で書かれており、ライセンスは AGPL-3.0 です。公開されている最新リリースは v1.0.0-rc.45 で、リリース候補の表記になっていますが、提供された記録にはこのリリースの変更履歴がありません。

このプロジェクトは、複数のモデルをまとめる統合 AI モデルハブです。異なる LLM を OpenAI 互換、Claude 互換、Gemini 互換の形式に変換して配信することが中核機能です。リポジトリは 2023 年 11 月 10 日に作成されました。

README はこのプロジェクトをアプリケーション、エージェント、チーム向けのセルフホスト型 AI ゲートウェイと説明しています。アップストリームのモデルサービス、すなわち外部モデルプロバイダーの API を接続してクライアントに一貫した API を提供し、Web コンソールでルーティング、アクセス権限、使用量、コストを管理します。複数のプロバイダーをまとめて接続し、非公開のマルチモデルサービスを運用することもできます。GitHub のスター数は 50341 です。

ただし、提供された情報にはスループットや応答時間などの性能指標はありません。評価スコアも 10 点満点のうちモメンタム項目だけが 7.5 点が記入されており、新しさ・技術・品質の各項目は空欄です。実際の運用における規模と安定性は、この情報だけでは判断できません。 성능を前提とするなら、v1.0.0-rc.45 のリリースノートを直接確認する必要があります。