ggml-org/llama.cpp는 C/C++로 구현된 LLM 추론 프로젝트다. 2026년 10월 19일 공개된 b11723 릴리스는 Hexagon 백엔드의 FLASH_ATTN_EXT를 개선했다. 변경 대상은 긴 문맥과 슬라이딩 윈도 어텐션 모델의 처리다. GitHub 릴리스 기록에 따르면 마스킹된 블록을 건너뛰도록 하고 연산 경로를 전환하는 기준을 조정했다.
이번 변경의 목적은 해당 모델 처리에서 불필요한 데이터 전송을 줄이고, 상황에 맞는 연산 경로를 선택하도록 다듬는 데 있다. 마스크가 적용된 블록을 건너뛰는 동작은 전송량 감소로 이어지며, 전환 기준 조정은 계산 경로 선택에도 변화를 준다. 따라서 b11723에서 확인되는 것은 Hexagon 백엔드의 특정 어텐션 경로를 손본 구현 변경이며, 이것이 이 릴리스의 범위다. 프로젝트 전체나 모든 백엔드의 변경으로 넓혀 말할 근거는 없다.
다만 릴리스 기록은 실제 성능 이득을 별도로 검증하지 않았다. 처리 속도나 지연 시간이 얼마나 달라졌는지는 주어진 정보에 없으므로, 데이터 전송 감소만으로 체감 성능 향상을 단정할 수 없다. 확인 가능한 범위는 긴 문맥 및 슬라이딩 윈도 어텐션 모델을 위한 Hexagon 경로의 처리 개선과 그 구현 내용까지다. 성능 효과는 별도의 검증 전에는 미확인으로 남는다.