ggml-org/llama.cpp은 C/C++로 LLM 추론을 수행하는 저장소다. 2026년 10월 29일 공개된 b11985 릴리스에서 Metal의 MXFP4 행렬-벡터 커널과 일부 연산의 실행 방식이 바뀌었다. 이 내용은 저장소의 b11985 릴리스 기록을 바탕으로 한다.
릴리스 요약에 따르면 MXFP4 행렬-벡터 커널은 FP16 비트 기법으로 값을 풀어 스레드 묶음 메모리를 사용하지 않게 됐다. 단항 연산과 이항 연산, GLU 행은 더 큰 스레드 묶음으로 나눠 실행하도록 변경됐다. 앞의 변경은 메모리 사용 방식에, 뒤의 변경은 연산을 나누는 크기에 관한 것이다. 이번 업데이트의 범위는 Metal에서 이 커널과 연산을 처리하는 방식이다. 요약은 구체적인 처리 과정이나 사용자에게 보이는 기능 변화까지 밝히지는 않는다.
제공된 릴리스 요약에는 처리 시간이나 처리량, 메모리 사용량을 비교한 수치가 없다. 따라서 스레드 묶음 메모리를 사용하지 않는 변경이나 더 큰 묶음으로 나누는 방식이 성능에 어떤 영향을 주는지는 이 정보만으로 판단할 수 없다. 또한 요약은 Metal 변경을 다루며, 다른 백엔드의 변경 여부는 제시하지 않는다. b11985에서 확인되는 것은 Metal 경로의 연산 방식 변경이며, 그 효과의 크기는 주어진 사실로 확정할 수 없다.