ggml-org/llama.cpp는 C/C++로 만든 로컬 LLM 추론 엔진이다. 2026-10-29(KST) 하루 동안 b11963부터 b11982까지 9개의 빌드 태그가 올라왔고, 별도 커밋 묶음은 집계되지 않았다. 내용은 SYCL과 헥사곤(Hexagon) 백엔드의 연산 최적화가 중심이고, 아드레노(Adreno)용 OpenCL 경로 추가와 오류 수정이 뒤따른다.
가장 눈에 띄는 것은 SYCL 쪽 세 건이다. b11963은 짧은 TOP_K 행에 워크그룹 argmax(한 행에서 최댓값을 찾는 연산)를 적용해 기존 경로와 다른 계산 방식을 도입했고, 릴리스 노트에는 Arc Pro B70과 oneAPI 2026.1에서 여러 행 크기와 k 값을 비교한 성능표가 실렸다. b11979는 재배치 레이아웃 양자화 풀기 저장을 벡터 연산으로 바꿔 Q4_0과 K 양자 계열의 처리량을 높였고, b11980은 q4_0·q8_0 키 캐시에서 바로 도는 플래시 어텐션(키와 값을 묶어 Attention Score를 계산하는 방식) 커널을 추가해 디코드와 쿼리 토큰 1~31개인 소배치를 처리한다.
헥사곤 백엔드에서는 b11981이 전치 결합(CONCAT)의 DDR 대역폭 사용을 높여 행 묶음 크기를 두 배로 늘리고 버퍼 임시 공간을 넓혔고, b11982는 UPSCALE 연산을 새로 지원하며 최근접 2배·4배 보간과 쌍선형 4배 확대를 다듬었다. 아드레노 OpenCL 쪽에는 b11971이 타일형 q4_k 행렬 곱셈 경로를 추가해 배치가 1보다 클 때 언어 모델 출력층에서 타일 연산을 쓰게 했다. 그 밖에 b11966은 s390x 연속 통합 실행기를 Ubuntu 26.04로 바꾸었고, b11977은 OpenVINO SCALE이 행 간격이 있는 뷰 입력에 원본 텐서 전체를 곱해 결과 버퍼를 넘치게 만들던 문제를 고쳤으며, b11978은 CUDA 그래프 예약 여백 계산 시험을 바로잡았다.
다만 하루치 변경 대부분이 특정 백엔드의 미세 최적화다. b11963의 성능 비교는 일부 조건에서 기존보다 느린 결과를 함께 보여주고, b11980의 커널은 디코드와 소배치에만 쓰이며 V.P 연산은 f16을 유지한다. b11982의 UPSCALE 커널도 완전히 벡터화된 것은 아니다. 전체 처리량 수치는 릴리스 노트에 없으니, 실제 이득의 크기는 아직 판단하기 이르다.