ggml-org/llama.cpp ビルド b11768 が2026年10月21日に公開された。CとC++でLLM推論を実装するこのプロジェクトのサーバが、Responses API のストリーミング応答で欠落していた出力項目番号(output_index)を追加するよう修正したビルドである。変更の出典は GitHub の b11768 リリースだ。
Responses API はモデル応答を所定の形式で返す仕様であり、Server-Sent Events(SSE)は応答を一度にまとめて送るのではなく、分割したチャンクで順に流して送る方式である。output_index は、そのチャンクがどの出力項目に属するかを示す番号だ。今回の修正により、サーバが欠落していたこの値を各チャンクに含めるようになった。
このリポジトリの公開されているスター数は131855だ。同じビルドで Anthropic のストリーミングコードを再利用し、不要と整理された generated_tool_call_ids と oai_resp_tool_calls_started の2項目を削除した。
ただし変更は Responses API のストリーミング経路に限られる。ビルド番号単位のリリースであり、全体の性能や他の API 経路への影響は示された情報にはない。テスト結果やベンチマークも示されていないため、他の応答形式でのストリーミング動作まで併せて改善されたかを判断するには早い。b11768 を出力項目番号を追加する限定的な修正と捉えるのが正確で、性能や他の機能に変化があったと読む根拠はないビルドである。