llama.cpp는 C/C++로 쓴 대규모 언어 모델 추론 엔진이다. 2026년 10월 21일 한국 시간 하루 동안 b11757부터 b11796까지 26개 빌드가 공개됐고, 별도로 집계된 커밋 묶음은 없었다. 묶인 빌드의 주제는 셋이었다. CUDA와 HIP, OpenCL, SYCL, Metal 같은 가속기 백엔드의 연산 오류 수정, 서버 기능 확대, 멀티모달 처리 보정이다.
백엔드에서는 CUDA 그래프 정리(b11757), 64로 나누어떨어지지 않는 타일 너비의 축약 오류(b11760), NEON의 fp32→fp16 변환 선택(b11761), OpenCL 소형 배치용 행렬곱 변형과 dp4a 추가(b11763, b11789), SYCL 플래시 어텐션 충돌 수정(b11788), Metal GPU 캡처 경로 메모리 누수(b11791), Hexagon 재패킹의 NEON 벡터화(b11790) 같은 수정이 나왔다. 서버에는 실시간 전사 API와 웹소켓 프록시(b11780), 음성 합성용 POST /tts(b11781), 스페큘레이티브 디코딩 경로의 logprobs 반환(b11776), /v1/messages 표본 추출 설정 전달(b11795), 클라이언트 연결 종료 전파 수정(b11769)이 들어갔다. 멀티모달 쪽에서는 LFM2 타일링 파라미터를 GGUF 메타데이터에서 읽고(b11767) 타일 잘림과 배치 구성을 파이썬 변환기 구현에 맞췄다(b11774). MoE 다운 투영을 expert 토큰 단위로 스케일링하고(b11785) 어휘표 로딩을 최적화하는 변경(b11793)도 포함됐다.
다만 판단의 한계는 수치에서 온다. 이번 빌드들이 주로 정확성 수정인데 릴리스 노트에는 속도 개선 폭이나 품질 지표가 제시되지 않는다. OpenCL과 SYCL, Hexagon 경로가 실제로 얼마나 빨아지는지는 공개된 정보만으로 알 수 없다. 또 하루치 변경에 전사와 /tts 같은 새 API와 판단 모델 지원(H2O-Lightning-4B, b11773)이 함께 들어와 있어, 무엇을 먼저 써 볼지는 각 빌드의 목적을 따져 정해야 한다.