mikealanni/gufo

mikealanni/gufo は AMD Strix Halo で GPU と XDNA2 NPU を併用するローカル推論エンジンである。

GitHub の説明: GPU + XDNA2 NPU inference for AMD Strix Halo (gfx1151): Qwen3.6-35B-A3B, Qwen3.8-27B and Qwen3.8 Flash-Next. NPU prefill +9% to +28%, MTP / DFlash2 / auto speculative decoding up to 159 tok/s on structured text.

スター

★ 67

フォーク

7

言語

C++

ライセンス

MIT