github.devotd.
リリース汎用ローカルエンジン

ggml-org/llama.cpp b11784 — SYCL iq3 量子化の衝突を修正

llama.cpp ビルド b11784 は、SYCL 対象の iq3 量子化で起きていた衝突を修正したリリースである。

リポジトリ情報ggml-org/llama.cpp ↗

大規模言語モデルをローカル実行する汎用 C/C++ 推論エンジンです。

GitHub の説明: LLM inference in C/C++

スター
★ 131.9K
フォーク
24.6K
言語
C++
ライセンス
MIT
最新リリース
2026年10月21日
原文を見る ↗GitHub で見る ↗

ggml-org/llama.cpp の新しいビルド b11784 が公開された。このリポジトリは C/C++ で実装された LLM 推論プロジェクトで、今回のビルドでは SYCL 対象の iq3 量子化で起きていた衝突を修正した。公開は GitHub の ggml-org/llama.cpp b11784 リリースタグとして行われ、リリース日は 2026 年 10 月 21 日である。リリースの表記はセマンティックバージョン名ではなくビルド番号になっている。

SYCL は、同じソースコードがさまざまな種類の GPU 上で動作するようにする標準 API だ。iq3 は、重みを低いビット精度で圧縮してメモリ使用量を減らす側の量子化 (quantization) 形式である。今回の修正が手を入れたのは、この SYCL 経路の iq3 量子化の側だ。リポジトリの説明は 'LLM inference in C/C++' という一文のみで、現在のスター数は 131873 個だ。

ただし b11784 のリリースノートが示しているのはこの衝突修正だけである。どのコード経路で何种の衝突が起きたのか、修正後に性能がどうなのかは示されておらず、性能の数値やテスト結果、ライセンス情報についても今回の資料には含まれていない。SYCL 外の経路に影響があるかも確認されていない。そのため SYCL で iq3 量子化を実行する環境には確認する価値のある変更だが、他のアクセラレータを使う側にとって期待できる変更だと断定するのは難しい。

同じ分野の他のプロジェクト

汎用ローカルエンジン →