ggml-org/llama.cpp の新しいビルド b11782 が公開された。このリポジトリは C/C++ で実装された LLM 推論プロジェクトで、今回のビルドではサーバーが複数の候補を動かすときに usage に記録される完了トークン数が実際より少なく数えられていた問題を修正した。公開は GitHub の ggml-org/llama.cpp b11782 リリースタグとして行われ、リリース日は 2026 年 10 月 21 日である。手を入れたのはサーバーが残す集計出力の側である。
完了トークン数は usage から入力を除いたうえで、モデルが新しく生成したトークンの個数を指す。usage はサーバーがリクエスト単位でトークン数を残す集計出力なので、推論コストや応答長を測る基準になる。サーバーが複数の候補を動かすときに一部が欠けると生成量を過小評価することになり、今回の修正はその抜けを埋めることを目的とした。リポジトリの説明は 'LLM inference in C/C++' という一文のみで、現在のスター数は 131868 個だ。
ただし b11782 のリリースノートが示しているのはこの件数修正だけである。他の変更が同時に含まれていたかは、リリース記録だけでは確認できない。スループットやレイテンシを比較した数値、ライセンス情報についても、今回の資料には含まれていない。集計の正確性にのみ触れられる変更である以上、サーバー性能に与える実際の影響は、この情報だけでは判断しにくい。