モデルアクセスとルーティング
モデル互換 API の提供、プロバイダーの選択、利用ポリシーの適用、サブスクリプションの中継を行うゲートウェイとルーター。ローカル推論エンジンと MCP ツールプロキシは含まない。
| プロジェクト | 用途 | スター | 言語 | ライセンス | 最新リリース |
|---|---|---|---|---|---|
| diegosouzapw/omniroute | 1つのエンドポイントで359のプロバイダーと1200以上のモデルをつなぎ、期間に応じたフォールバックを提供します。 | ★ 78K | TypeScript | MIT | v3.8.51 |
| yetone/magpie | 4つのモデルプロトコルを翻訳し、クォータと重みでアカウントやモデルを切り替えるローカルゲートウェイです。 | ★ 15.8K | Go | MIT | v0.1.1286 |
| yinsongxu/llm2jev | 既存のローカルLLM・MLLMを微調整なしでJev型構造化判定モデルへ変換し、1回のプリフィルで判定結果を返します。 | ★ 449 | Python | Apache-2.0 | v0.2.0 |
| jevagentharness/jevagentharness | コーディングエージェントの工程を分類し、高速モデルと高性能モデルへルーティングするOpenAI互換ローカルプロキシ。 | ★ 14 | Python | MIT | — |