ggml-org/llama.cpp b11752 は 2026 年 10 月 20 日に公開されました。このリポジトリは C と C++ で大規模言語モデルの推論を実装するプロジェクトです。今回のリリースは、MoE ルーターでエキスパートスコアが同点になる場合に生じる選択の差異を扱うものです。リポジトリの説明は LLM inference in C/C++ で、公開スター数は 131775 です。リリース情報の要点は、新しいモデルや機能の追加ではなく、エキスパート選択の挙動を安定させる変更であることです。
問題の出発点はバックエンドごとに生じる数値ノイズです。このノイズがエキスパートスコアの同点処理に影響すると、同じトークンが別のエキスパートに送られる可能性があります。つまり、スコアが同じエキスパートの中から誰を選ぶかは、実行バックエンドの数値差異によって変わる可能性を取り扱っています。b11752 にはこの挙動を安定させるための MoE ルーター選択テストが含まれます。リリース要約は問題とテストの目的を明示しますが、テストが扱う具体的な選択規則は説明していません。
したがって、この変更で確認できるのは、エキスパートスコアの同点処理に起因する選択の問題と、それを安定化するためのテストの追加までです。提供されたリリース情報には、どのバックエンドで差異が生じるか、選択結果が実際にどれだけ変わるか、テストがどの範囲まで検証するかが示されていません。パフォーマンス改善とみなす根拠や、すべての実行経路で同じ選択を保証すると解釈する根拠も提示されていません。b11752 の意義は、選択挙動の安定性Replication... を取り扱うようになったことにあり、結果の範囲は公開された説明だけでは判断しにくいということです。