davide-troiani/moeshift

davide-troiani/moeshiftは、混合専門家モデルをApple Silicon上でローカル実行するためのアルファ段階の推論ツールだ。

GitHub の説明: Memory efficient and high performance Mixture-of-Experts inference for Apple Silicon

スター

★ 7

フォーク

0

言語

C++

ライセンス

MIT