youssofal/mtplx

youssofal/mtplx は Apple Silicon で MTP 推測デコードを使ってローカルモデルを実行するツールで、最新リリースは v2.12.2 です。

GitHub の説明: The fastest way to run Qwen 3.8 Flash Next, Qwen 3.8 27B and Ternary Bonsai 2 27B on a Mac: 125 tok/s in OpenCode on an M5 Max, and a 27B model on 16 GB Macs. Native MTP speculative decoding on Apple Silicon, exact at any temperature. OpenAI and Anthropic compatible local server.

スター

★ 2.6K

フォーク

206

言語

Python

ライセンス

Apache-2.0

最新リリース

v2.12.2