模型接入与路由
提供模型兼容 API、选择提供商、执行使用策略或中转订阅的网关与路由器;不包括本地推理引擎和 MCP 工具代理。
| 项目 | 用途 | Star | 语言 | 许可证 | 最新版本 |
|---|---|---|---|---|---|
| diegosouzapw/omniroute | 通过一个端点连接359个提供商和1200多个模型,并提供配额感知回退。 | ★ 78K | TypeScript | MIT | v3.8.51 |
| yetone/magpie | 本地网关转换四种模型协议,并按配额和权重在账户与模型间路由智能体请求。 | ★ 15.8K | Go | MIT | v0.1.1286 |
| yinsongxu/llm2jev | 无需微调即可将现有本地LLM和MLLM转为Jev式结构化判定模型,并通过一次预填充返回判定结果。 | ★ 449 | Python | Apache-2.0 | v0.2.0 |
| jevagentharness/jevagentharness | 将编码智能体步骤分类并路由至快速或强模型的本地 OpenAI 兼容代理。 | ★ 14 | Python | MIT | — |