franzmoca/gufo は Linux の Strix Halo ハードウェア上でローカルモデルを実行する推論エンジンである。このリポジトリは Gufo を土台に Gemma 4 を動かすよう拡張したフォークであり、Gemma 4 専用の計算カーネルと複数トークン予測を追加している。リポジトリは画像入力とツール呼び出しにも対応していると説明している。公開リリースのバージョンは FACTS に与えられていない。
このプロジェクトの中心は汎用的な推論エンジンではなく、Strix Halo に合わせたモデルの実行経路にある。複数トークン予測は次のトークンを複数まとめて予測する機能であり、リポジトリはこれをスループット向上に活用すると説明している。モデル別のドキュメントには性能測定と品質レポートへのリンクが貼られている。リポジトリに記載された数値では、Qwen Flash Next Q4_K_XL の 8 ユーザー使用時のスループットは 157.22 tok/s、Qwen27B Q4_K_XL は DFlash2 を使用した単一ユーザー条件で 70.56 tok/s である。主言語は C++、ライセンスは MIT である。
これらの数値は特定のモデルと Strix Halo 環境についての記録であり、他のハードウェアやモデルの性能へ一般化することはできない。対応対象も Linux の Strix Halo に限られる。リポジトリは上流リポジトリを定期的にマージすると述べており、このフォークを検討する際は、該当するハードウェアの制約と上流リポジトリとの関係も併せて考慮する必要がある。