模型工程
用于模型训练、离线压缩、通用评估、分析、溯源和接入路由的工具及方法。以压缩为目的的蒸馏归入 model-compression-and-quantization，通用适应训练归入训练分支。不包括模型发布、运行时执行，以及以安全为主要目的的分析或评估；安全产品归入 ai-security。
子领域
| 项目 | 用途 | Star | 语言 | 许可证 | 最新版本 |
|---|---|---|---|---|---|
| diegosouzapw/omniroute | 通过一个端点连接359个提供商和1200多个模型，并提供配额感知回退。 | ★ 78K | TypeScript | MIT | v3.8.51 |
| yetone/magpie | 本地网关转换四种模型协议，并按配额和权重在账户与模型间路由智能体请求。 | ★ 15.7K | Go | MIT | v0.1.1285 |
| yinsongxu/llm2jev | 无需微调即可将现有本地LLM和MLLM转为Jev式结构化判定模型，并通过一次预填充返回判定结果。 | ★ 449 | Python | Apache-2.0 | v0.2.0 |
| scaleapi/agentenv-framework | 供研究者、工程师和领域专家协作构建逼真且可复现的强化学习环境。 | ★ 323 | Python | Apache-2.0 | v0.9.1334 |
| deepseek-ai/deepep-ascend | 为华为昇腾 NPU 上分布式 MoE 训练和推理提供高性能 all-to-all 通信的底层库。 | ★ 260 | C++ | — | — |
| zihan-su/self_gradient_forcing_plus | 通过分离上下文写入与去噪参数来训练自回归视频生成器，从而减少梯度冲突。 | ★ 196 | Python | Apache-2.0 | — |
| qwenlm/blenderworld | 一个包含223项任务和2651条二元标准的Blender基准，用于评估从文本、图像和视频创建可编辑3D场景的代理。 | ★ 124 | Python | MIT | — |
| composo-ai/dishwasherbench | 在真实洗碗机物理仿真游戏中评估语言模型智能体的目标达成能力。 | ★ 70 | TypeScript | MIT | — |
| jevagentharness/jevagentharness | 将编码智能体步骤分类并路由至快速或强模型的本地 OpenAI 兼容代理。 | ★ 13 | Python | MIT | — |
| cmu-l3/reuf2f | 一个让编程代理证明 Lean 形式化的本科研究问题中定理或反例的基准。 | ★ 9 | Lean | NOASSERTION | — |