pentacoxian/qwen-qsa-llama.cpp는 Qwen3.8-27B에 Qwen Sparse Attention 경로를 적용한 llama.cpp 분기다. README는 RTX 4090 한 장에서 262K 문맥과 이미지 입력을 처리하도록 구성했다고 설명한다. 저장소는 2026년 11월 4일 생성됐으며, FACTS에 기록된 최신 릴리스는 없다. 따라서 특정 릴리스의 변경 사항이 아니라 저장소가 제시하는 구현을 살펴보는 글이다.
README에 따르면 구현에는 메모리 절감, 커널 변경, DFlash2 초안 거부 표집이 포함된다. 저장소는 같은 가중치와 질문 조건으로 비교한 속도 및 회상 시험 결과도 공개한다. C++로 작성됐고 MIT 라이선스를 사용한다. 이 분기는 긴 문맥과 이미지 입력을 한 장의 GPU에서 다루는 것을 목표로 하며, llama.cpp 기반 코드에서 이를 위한 메모리와 커널 경로를 함께 다룬다는 점이 핵심이다. 다만 README의 설명과 결과는 저장소 작성자가 제시한 내용이다.
결과를 다른 장치나 작업에 그대로 적용하기는 어렵다. README는 회상 평가가 40개 질문으로 이뤄진 간이 점검이며, RTX 4090 외의 그래픽 카드는 시험하지 않았다고 밝힌다. 공개된 속도와 회상 결과도 같은 조건의 비교에 한정되므로, 이를 폭넓은 성능 우위의 근거로 보기는 이르다. 현재 자료로는 구현 방향을 참고할 수 있지만, 성능 주장은 더 다양한 장치와 평가에서 확인될 때까지 제한적으로 읽어야 한다.