ggml-org/llama.cpp は C/C++ で LLM 推論を実行するリポジトリだ。2026 年 10 月 30 日には b11986 から b12008 までビルド 8 件が公開され、コミットバーストはなかった。まとめられたビルドの主題は三つある。OpenCL バックエンドに 2bit 量子化種類（iq2、q2_0）を追加して Adreno GPU パスを作ること、テンソルコピーとキー・バリューキャッシュのローテーションを扱うメモリ・状態管理の整理、そして SYCL バックエンドのエラー修正や推論予算の終了条件といった動作変更である。
量子化は重みを少ないビット数で圧縮し、モデルが占有するメモリと読み込み帯域を減らす手法である。b11986 は OpenCL に iq2 を、b12005 は q2_0 を導入し、いずれのビルドも Adreno 用のベクトル・行列積パス、整数演算（dp4a）パス、狭いグループの最適化を同時に導入した。メモリ面では b11997 がテンソルのステージングバッファを再利用し、直接入出力の中間バッファをスキップするように変更し、b12002 は ggml にバッチ型テンソルコピー API を新設してコンテキストの入出力に適用した。b12008 は gemma3n と gemma4 において束縛された出力層が token_embd を先に参照するよう順序を変え、CPU 専用実行時のモデルバッファを 3163.73 MiB から 2947.73 MiB へ削減した。b12007 はキー・バリューキャッシュ（KV cache）のローテーション定数を GPU に残す変更と、層ごとのローテーションバッファのサポートを内容としていた。
ただし OpenCL 側は初期サポートの表記から始まり、加速パスは Adreno デバイスを前提としている。b12007 のノートは、複数デバイスにまたがる KV ローテーションの作業が残っていると記していた。リリースノートには性能数値がないため、これらの変更がどれだけ速くなったかはわからない。b12003 の SYCL 修正は FLASH_ATTN_EXT 演算の失敗を直したパッチであり、b12004 はプロンプトの終端タグでのみ推論予算を強制終了する。要するに、このまとめはメモリ節約と GPU 状態管理の土台作業に近い。速度改善の幅は数値で確認するまでは判断が早い。