ggml-org/llama.cpp は C/C++ で大規模言語モデル(LLM)の推論を行うリポジトリである。リリース b11912 は Laguna ターゲットでエキスパート混合(MoE)モデルの最大活性値再調整を有効化し、当該チップのテンソル対応を宣言した。変更の出典は GitHub の b11912 リリースである。公開された変更サマリーはこのハードウェア対応範囲の拡大に集中している。したがって、本リリースの核心はモデル機能全般の変更ではなく、Laguna ターゲット対応パスの調整と宣言である。
MoE は複数のエキスパートモデルのうち一部を利用するモデル構造を指す。今回の変更は、その構造を使うモデルに対して最大活性値再調整を Laguna ターゲットで有効化するという内容である。リリースサマリーはこれを具体的にどのように扱うかについては説明していない。別途、当該チップのテンソル対応も宣言したが、対応される演算や範囲の詳細は示されていない。この二つの変更は、ターゲットハードウェアで何が対応していると主張しているかを確かめる手がかりである。ただし宣言のみでは、実際に実行可能な範囲や挙動を具体的に判断することはできない。
公開されたサマリーには Laguna の正確なチップモデル名も、テンソル対応の具体的な範囲も記載がない。性能測定値や以前のリリースとの比較も提示されていない。したがって、b11912 が推論速度や結果の品質を変えたと判断できる根拠は確認できない。確認できる範囲は MoE の最大活性値再調整の有効化と、当該チップのテンソル対応宣言までである。今回の変更は、そのハードウェアパスの対応範囲を広げる更新と捉えるのが適切である。