ggml-org/llama.cpp의 새 빌드 b11782가 공개됐다. 이 저장소는 C/C++로 구현한 LLM 추론 프로젝트로, 이번 빌드에서는 서버가 여러 후보를 돌릴 때 usage에 기록되는 완료 토큰 수를 실제보다 적게 세던 문제를 고쳤다. 공개는 GitHub의 ggml-org/llama.cpp b11782 릴리스 태그로 이루어졌고, 릴리스 날짜는 2026년 10월 21일이다. 손본 곳은 서버가 남기는 집계 출력 쪽이다.
완료 토큰 수는 usage에서 입력을 제외하고 모델이 새로 만들어 낸 토큰의 개수를 뜻한다. usage는 서버가 요청 단위로 토큰 수를 남기는 집계 출력이라, 추론 비용과 응답 길이를 가늠하는 기준이 된다. 서버가 여러 후보를 돌릴 때 일부가 빠지면 전체 생성량을 과소평가하게 되고, 이번 수정은 그 누락을 메우는 것이 목적이다. 저장소 설명은 'LLM inference in C/C++' 한 줄로만 밝히고 있으며, 현재 별 표시는 131868개다.
다만 b11782 릴리스 노트가 밝힌 내용은 이 계수 수정뿐이다. 함께 들어간 다른 변경이 있는지는 릴리스 기록만으로 확인할 수 없다. 처리량이나 지연 시간을 비교한 수치와 라이선스 정보도 이번 자료에는 실려 있지 않다. 집계 정확도에만 걸친 변경인 만큼 서버 성능에 미치는 실제 영향은 이 정보만으로 판단하기 어렵다.