github.devotd.
新着LLMインフラ

portkey-ai/gateway v1.15.2 — 単一 API に集約する AI ゲートウェイ

単一の API で 1,600 以上の LLM と 50 種類以上の AI ガードレールを接続する MIT ライセンスの AI ゲートウェイ portkey-ai/gateway の機能と、v1.15.2 リリースで変更内容が提供されていない点。

リポジトリ情報portkey-ai/gateway ↗

単一の API で 1,600 以上の LLM と 50 種類以上の AI ガードレールを接続する MIT ライセンスの AI ゲートウェイ portkey-ai/gateway の機能と、v1.15.2 リリースで変更内容が提供されていない点。

GitHub の説明: A blazing fast AI Gateway with integrated guardrails. Route to 1,600+ LLMs, 50+ AI Guardrails with 1 fast & friendly API.

スター
★ 13.2K
フォーク
1.4K
言語
TypeScript
ライセンス
MIT
最新リリース
v1.15.2
原文を見る ↗GitHub で見る ↗

portkey-ai/gateway は、単一の API で 1,600 以上の LLM と 50 種類以上の AI ガードレールを接続する MIT ライセンスのオープンソース AI ゲートウェイである。README はこのリポジトリを、言語・ビジョン・オーディオ・画像モデルへ高速かつ安定して接続するための軽量な AI Gateway と説明している。リポジトリの公開は 2023 年 8 月で、最新リリースは v1.15.2 である。

このプロジェクトの実用的な価値は、複数のモデルプロバイダーを単一 API の背後に置き、自動再試行とフォールバック(fallback)、負荷分散、条件付きルーティング、ガードレールポリシー、マルチモーダルを適用できる点にある。フォールバックはリクエストが失敗したときに別のモデル経路へ切り替えて処理する仕組みで、負荷分散はリクエストを複数の経路に分けて送る仕組みである。リクエスト条件に応じてルーティング先を変更でき、別に MCP Gateway が組織内部の MCP(Model Context Protocol)サーバーの認証とアクセス制御、可観測性を担当する。実装言語は TypeScript で、GitHub スターは 13235 個である。

ただし、提供されたリリース情報には v1.15.2 の変更項目が記載されていない。何が追加され、何が修正されたのかを知ることはできず、性能の測定値も示されていない。評価スコアは興味度(momentum)4.1 のみが記入されている。機能の広さと MIT ライセンスだけから実運用での性能と安定性まで期待するのは難しいが、その判断には別途の検証が必要となる。