davide-troiani/moeshift

davide-troiani/moeshift 是一个处于 alpha 阶段的推理工具，用于在 Apple 芯片上本地运行混合专家模型。

GitHub 项目说明: Memory efficient and high performance Mixture-of-Experts inference for Apple Silicon

星标

★ 7

复刻

0

语言

C++

许可证

MIT