mikealanni/gufo

mikealanni/gufo 是一个在 AMD Strix Halo 上同时利用 GPU 与 XDNA2 NPU 的本地推理引擎。

GitHub 项目说明: GPU + XDNA2 NPU inference for AMD Strix Halo (gfx1151): Qwen3.6-35B-A3B, Qwen3.8-27B and Qwen3.8 Flash-Next. NPU prefill +9% to +28%, MTP / DFlash2 / auto speculative decoding up to 159 tok/s on structured text.

星标

★ 67

复刻

7

语言

C++

许可证

MIT