ggml-org/llama.cpp は C/C++ で実装された LLM 推論プロジェクトです。2026 年 10 月 19 日に公開された b11723 リリースは、Hexagon バックエンドの FLASH_ATTN_EXT を改善しました。変更の対象は、長いコンテキストとスライディングウィンドウのアテンションモデルの処理です。GitHub のリリース記録によれば、マスクされたブロックをスキップする基準と演算パスを切り替える基準を調整した等内容です。
今回の変更の目的は、当該モデル処理における不要なデータ転送を減らし、状況に適した演算パスが選ばれるよう整えることにあります。マスクが適用されたブロックをスキップする動作は転送量の削減につながり、切り替え基準の調整は演算パスの選択にも変化を与えます。したがって b11723 で確認できるのは、Hexagon バックエンドの特定のアテンションパスに触れた実装変更であり、これがこのリリースの範囲です。プロジェクト全体やすべてのバックエンドの変更に広げて述べる根拠はありません。
ただし、リリース記録では実際の性能上の効果が別途検証されているわけではありません。処理速度やレイテンシがどれだけ変化したかは提示された情報に示されていないため、データ転送の減少だけで体感性能の向上を断定することはできません。確認できる範囲は、長いコンテキストおよびスライディングウィンドウのアテンションモデルに向けた Hexagon パスの処理改善と、その実装内容までです。性能効果は別途の検証が得られるまで未確認のまま残ります。