github.devotd.

模型接入与路由

提供模型兼容 API、选择提供商、执行使用策略或中转订阅的网关与路由器;不包括本地推理引擎和 MCP 工具代理。

该领域的项目 (4)
项目用途Star语言许可证最新版本
diegosouzapw/omniroute通过一个端点连接359个提供商和1200多个模型,并提供配额感知回退。★ 78KTypeScriptMITv3.8.51
yetone/magpie本地网关转换四种模型协议,并按配额和权重在账户与模型间路由智能体请求。★ 15.7KGoMITv0.1.1285
yinsongxu/llm2jev无需微调即可将现有本地LLM和MLLM转为Jev式结构化判定模型,并通过一次预填充返回判定结果。★ 449PythonApache-2.0v0.2.0
jevagentharness/jevagentharness将编码智能体步骤分类并路由至快速或强模型的本地 OpenAI 兼容代理。★ 13PythonMIT—