appatalks/synapse

appatalks/synapse 是一个 Python 应用，在本地聊天和模型控制功能之上加入了 GPU/CPU 分布式 MoE 推理实验。

GitHub 项目说明: Run MoE open weight models, faster - on local hardware.

星标

★ 2

复刻

0

语言

Python

许可证

MIT