ggml-org/llama.cpp の release b11804 では、OpenCL 演算において 32 ビット浮動小数点配列から整数インデックスを取り出す機能が追加された。このリポジトリは C/C++ ベースの LLM 推論プロジェクトである。今回の変更は、その演算を OpenCL 側に追加したリリース内容であり、出典は ggml-org/llama.cpp の b11804 リリースである。リリース資料に記された変更は、この機能と初期値の設定である。
今回の変更で初期値を 0 に合わせたのは、CPU と同じ結果を得るためである。したがって追加された点は、浮動小数点配列から整数インデックスを得る OpenCL 演算と、その結果を CPU に合わせるための初期値処理にまとめられる。ここで確認できるのは演算の追加と初期値の設定であり、特定のモデルやユーザー向け機能の追加としては説明されていない。リポジトリが扱う範囲は、説明のとおり C/C++ の LLM 推論である。
資料は、この演算を利用するモデルや機能、適用範囲、性能の変化に関する情報を示していない。提供されたリリース要約にも他の変更は記載されていないため、より広い機能追加と解釈する根拠はない。したがって、このリリースだけから実際の推論への影響や速度差を判断することはできない。確認できる変更は、OpenCL 演算の追加と CPU の結果に合わせた初期値の設定までである。影響の範囲は後続の情報が必要になる。