pentacoxian/qwen-qsa-llama.cpp は、Qwen3.8-27B に Qwen Sparse Attention の経路を適用した llama.cpp の分岐です。README では RTX 4090 1枚で 262K コンテキストと画像入力を処理するよう構成されていると説明しています。リポジトリは 2026年11月4日に作成され、FACTS に記録された最新リリースはありません。したがって本稿は、特定のリリースの変更点ではなく、リポジトリが提示する実装を確認するものです。
README によれば、実装にはメモリ削減、カーネル変更、DFlash2 のドラフト棄却サンプリングが含まれます。リポジトリは、同じ重みと質問条件で比較した速度およびリコール試験結果も公開しています。C++ で記述され、MIT ライセンスを使用しています。この分岐は長い文脈と画像入力を1枚の GPU で扱うことを目指しており、llama.cpp ベースのコードの中で、そのためのメモリ経路とカーネル経路を併せて扱っている点が核心です。ただし README の説明と結果は、リポジトリ作成者が提示したものです。
これらの結果を別のデバイスや作業にそのまま適用するのは難しいでしょう。README は、リコール評価が40問による簡易チェックであり、RTX 4090 以外のグラフィックスカードは試験していないと述べています。公開された速度とリコールの結果も同一条件での比較に限られるため、これを広い性能優位性の根拠とみなすのは早いでしょう。現時点の資料では実装の方向性を参考にできますが、性能の主張は、より多様なデバイスと評価で確認されるまで限定的に読むべきです。