Devotd Github
リリース汎用ローカルエンジン

ggml-org/llama.cpp 2026-11-03 更新まとめ: バックエンド最適化が中心

ggml-org/llama.cpp の 2026年11月3日の更新を b12050〜b12069 の10ビルド単位でまとめ、Vulkan・OpenCL・WebGPU・Hexagon バックエンドの最適化と Clover・Pocket TTS サポートの追加を整理した。

リポジトリ情報ggml-org/llama.cpp ↗

大規模言語モデルをローカル実行する汎用 C/C++ 推論エンジンです。

GitHub の説明: LLM inference in C/C++

スター
★ 133.3K
フォーク
25.1K
言語
C++
ライセンス
MIT
最新リリース
2026年11月3日
原文を見る ↗GitHub で見る ↗

ggml-org/llama.cpp は C/C++ で書かれた LLM 推論エンジンである。2026年11月3日には b12050 から b12069 までの10ビルドがリリースされた。この日にまとめられたコミット群は別途ない。

最大の柱はハードウェアバックエンド別の演算最適化だ。b12050 は Vulkan バックエンドで小さいサイズと少ない分割数を使う演算の選択を改善し(RDNA3・RDNA4 が対象)、b12069 は OpenCL パスに iq4_xs 量子化サポートを初めて追加し、Adreno 向けの行列・ベクトル演算とデコード最適化を含んだ。b12064 は Hexagon アクセラレータで軸順序が変わるコピーに対してタイル単位の転置パスを追加し、要素ごとに転送ディスクリプタを出していた方式をグループ単位の処理に変えた。b12066 は WebGPU バックエンドに範囲生成(ARANGE)演算を追加し、b12054 は ggml-zdnn でホストとバッファを共有する形に変えた。

モデルと機能側の変更も併せて入った。b12060 は Clover モデルサポートを追加し、GGUF 変換とモデルロード、因果混合アテンションを入れた。b12059 は統合キーバリューキャッシュで複数のシーケンスを扱う経路を改善した。b12061 は音声クローンなしで定義済み音声のみを使う Pocket 音声合成をサポートする。b12057 は context setter を単純化し、b12068 は GPT-OSS の最後のチャネルの後ろに制約タイプを指定できるようにした。

ただし、まとめられたリリースノートには性能数値もベンチマークもない。各変更が実際にどれだけ速くなるかはこの情報だけでは判断しにくく、対応範囲も個別のバックエンドとモデルに限られる。特定のハードウェアやモデルを扱う予定があるときに確認する価値がある程度に留まる。

同じ分野の他のプロジェクト

汎用ローカルエンジン →