franzmoca/gufo

franzmoca/gufo 是一个 C++ 分支，为在 Strix Halo 上运行 Gemma 4 增加了专用计算内核与多 token 预测。

GitHub 项目说明: Strix Halo inference engine. Qwen Flash Next Q4_K_XL: 1,628.52pp, 59.41tg single user, 157.22 tok/s 8 users; Qwen27B Q4_K_XL: 656.33pp, 70.56tg tok/s single user with DFlash2

星标

★ 9

复刻

1

语言

C++

许可证

MIT