ggml-org/llama.cpp는 C/C++로 구현된 LLM 추론 프로젝트다. release b12065는 서버 예열 중 셀이 없는 공유 키값 캐시가 행 수를 0으로 반환하던 문제를 수정했다. 이 변경은 ggml-org/llama.cpp의 b12065 릴리스에 기록됐다. 이번 업데이트의 핵심은 서버 예열 경로에서 공유 캐시의 행 수를 잘못 반환하던 동작을 바로잡은 것이다. 이는 새 기능이나 모델 추가가 아니라, 릴리스 요약에 명시된 캐시 행 수 문제에 대한 수정이다.
문제의 영향은 캐시가 0행을 반환하는 데서 끝나지 않았다. 이 반환값 때문에 처리가 밀집 주의 마스크로 되돌아갈 수 있었고, 스케줄러가 계획을 다시 세운 뒤에는 더 큰 마스크에서 중단될 가능성이 있었다. 따라서 수정 대상은 서버 예열 중 공유 키값 캐시의 행 수 반환과, 그 값이 이어지는 마스크 선택 및 스케줄링 흐름이다. 릴리스 요약은 이 순서를 함께 설명하며, 0행 반환이 마스크 전환과 재계획을 거쳐 중단으로 이어질 수 있음을 보여준다.
확인된 범위는 서버 예열 중 셀이 없는 공유 키값 캐시의 행 수 처리 문제다. 제공된 릴리스 정보에는 재현 절차, 성능 수치, 영향받은 구성의 범위가 제시되지 않았다. 그러므로 이 수정은 해당 예열 경로의 오류를 바로잡은 것으로 이해하는 것이 적절하며, 다른 경로까지 문제가 해결됐다고 확대해서 볼 근거는 없다.