llama.cpp は C/C++ で書かれた大規模言語モデル推論エンジンである。2026年10月21日の韓国時間の一日間に b11757 から b11796 まで 26 個のビルドが公開され、別途集計されたコミット単位のまとめはなかった。まとめられたビルドの主題は三つだった。CUDA や HIP、OpenCL、SYCL、Metal などのアクセラレータバックエンドにおける演算エラーの修正、サーバー機能の拡充、マルチモーダル処理の補正である。
バックエンドでは、CUDA グラフのクリーンアップ(b11757)、64 で割り切れないタイル幅の縮約エラー(b11760)、NEON の fp32→fp16 変換選択(b11761)、OpenCL の小バッチ向け行列乗算の変種と dp4a の追加(b11763、b11789)、SYCL のフラッシュアテンション競合の修正(b11788)、Metal の GPU キャプチャ経路のメモリリーク(b11791)、Hexagon の再パックに対する NEON ベクトル化(b11790)などの修正が出てきた。サーバーにはリアルタイム文字起こし API と WebSocket プロキシ(b11780)、音声合成用の POST /tts(b11781)、投機的デコード経路での logprobs 返却(b11776)、/v1/messages のサンプリング設定の受け渡し(b11795)、クライアント接続終了の伝播修正(b11769)が加わった。マルチモーダルでは、LFM2 のタリングパラメータを GGUF メタデータから読み込む処理(b11767)が追加され、タイルの切り詰めとバッチ構成を Python トランスフォーマー実装に合わせて修正した(b11774)。また、MoE のダウン投影を expert トークン単位でスケーリングする変更(b11785)や、語彙表の読み込みを最適化する変更(b11793)も含まれた。
ただし判断の限界は数値に由来する。今回のビルドは主に正確性の修正だが、リリースノートには速度改善の幅も品質指標も示されていない。OpenCL、SYCL、Hexagon の経路が実際にどれだけ速くなるかは、公開情報だけでは知ることができない。また、一日分の変更に文字起こしや /tts のような新しい API と判断モデル対応(H2O-Lightning-4B、b11773)が一緒に含まれており、何を先に試すかは各ビルドの目的を勘案して決める必要がある。