ggml-org/llama.cpp는 C/C++로 LLM 추론을 구현하는 저장소다. GitHub 릴리스 페이지에 공개된 b12192는 MageVL-Cowork 모델을 지원한다. 이번 버전에서는 모델 적재기가 위치 인코딩의 자료형과 차원을 검사하도록 바뀌었다. 따라서 이 릴리스의 핵심은 새 모델 지원과 모델 적재 과정의 검사 변경이다. 변경의 출처는 ggml-org/llama.cpp의 b12192 릴리스 정보다.
위치 인코딩의 자료형과 차원을 검사하는 변경과 함께, 여러 층에서 공유되는 위치 계수를 각 층의 복사본 대신 공통 모델 구조에 두도록 했다. 즉, 릴리스 정보가 밝힌 변경은 모델 지원, 적재기의 위치 인코딩 검사, 공유 위치 계수의 배치 방식이다. 위치 계수의 변경은 공유 계수를 공통 구조에 두는 내용으로 설명돼 있다. 이 설명만으로 메모리 사용량이나 추론 속도에 어떤 변화가 생기는지는 판단할 수 없다.
제공된 릴리스 정보에는 MageVL-Cowork의 구조나 지원 하드웨어, 성능 수치가 제시돼 있지 않다. 위치 인코딩 검사가 어떤 오류를 걸러내는지에 관한 구체적인 사례도 주어지지 않았다. 그러므로 b12192를 성능 향상이나 특정 환경의 호환성 개선으로 해석할 근거는 부족하다. 확인되는 범위는 MageVL-Cowork 지원과 위치 인코딩 검사 및 공유 위치 계수 배치 변경이며, 그 이상의 효과는 릴리스 정보만으로 알 수 없다.