Devotd Github
リリース汎用ローカルエンジン

ggml-org/llama.cpp b11854 — Vulkan 精度の補完と FP32 オーバーフロー対応

ggml-org/llama.cpp b11854 は、Vulkan バックエンドの ggml src1 精度処理を補完し、FP32 オーバーフロー対応と行列積チェックを含むリリースである。

リポジトリ情報ggml-org/llama.cpp ↗

大規模言語モデルをローカル実行する汎用 C/C++ 推論エンジンです。

GitHub の説明: LLM inference in C/C++

スター
★ 132.2K
フォーク
24.8K
言語
C++
ライセンス
MIT
最新リリース
2026年10月25日
原文を見る ↗GitHub で見る ↗

ggml-org/llama.cpp は C/C++ ベースの LLM 推論リポジトリであり、b11854 リリースは 2026 年 10 月 24 日に公開された。今回のバージョンでは Vulkan バックエンドにおける ggml src1 の精度処理を補完し、FP32 オーバーフロー対応と行列積チェックを追加した。関連テストも手を入れた。変更の出典は GitHub の b11854 リリース記録である。

今回の変更で示された作業は、Vulkan バックエンドの精度処理の補完、FP32 オーバーフロー対応、行列積チェックの追加、および関連テストの修正である。したがって、このリリースの核心は推論機能全般を新たに説明することにあるのではなく、このバックエンドの計算処理とチェックにある。リポジトリの説明は C/C++ ベースの LLM 推論であり、今回のリリース要約はその範囲の中で具体的に手を加えた項目を明示している。ただし、この要約だけでは各項目の実装方法や適用条件まで確認できない。

提供された b11854 リリース要約には性能数値やベンチマーク結果の記載はない。そのため、今回の精度処理の補完とオーバーフロー対応が実際の推論速度や結果にどの程度の差をもたらすかは、この情報だけでは判断しにくい。確認できる変更は、Vulkan バックエンドに明示された処理とチェック、および関連テストの修正に限られる。今回の記録は変更項目を説明しているが、その効果の大きさまでは示していない。

リリース

niko1221/strata v0.2.2 — グラフィックスカードの Gyro 対応と RX 6000 エンジンパッケージ

コンシューマーハードウェアで Qwen3.8-Flash-Next を実行する Strata の v0.2.2 には、Intel Arc と Mac のグラフィックスカードにおける Gyro 対応、NVIDIA カードでの Gyro 高速化、RX 6000 シリーズ向けエンジンパッケージ、アプリとターミナルのモデルフォルダ共有が含まれた。

同じ分野の他のプロジェクト

汎用ローカルエンジン →