新发现
zhulinsen/litemoe — 小型 MoE 推理引擎
zhulinsen/litemoe 是一个基于 Python 的 MoE 引擎，复用 vLLM 的部分内核并自行实现推理流程。
zhulinsen/litemoe
zhulinsen/litemoe 是一个基于 Python 的 MoE 引擎，复用 vLLM 的部分内核并自行实现推理流程。
GitHub 项目说明: A MoE inference engine you can read in an afternoon.
在 GitHub 查看 ↗- 星标
- ★ 2
- 复刻
- 0
- 语言
- Python
- 许可证
- Apache-2.0
文章
1没有符合条件的动态。