Devotd Github
릴리스범용 로컬 엔진

ggml-org/llama.cpp b12034 — WebGPU 할당 오류 수정

ggml-org/llama.cpp b12034는 배치 길이에 따라 단조롭지 않게 계산되던 WebGPU 임시 메모리 할당 크기를 수정해 연속 할당 오류를 막았다.

저장소 정보ggml-org/llama.cpp ↗

C와 C++로 작성되어 대규모 언어 모델을 로컬에서 실행하는 범용 추론 엔진입니다.

GitHub 설명: LLM inference in C/C++

스타
★ 133.1K
포크
25.1K
언어
C++
라이선스
MIT
최신 릴리스
2026년 11월 2일
원문 보기 ↗GitHub에서 보기 ↗

ggml-org/llama.cpp는 C/C++로 대규모 언어 모델 추론을 수행하는 프로젝트다. 2026년 11월 2일 공개된 릴리스 b12034는 WebGPU 임시 메모리 할당 크기 계산 문제를 수정했다. 릴리스 요약에 따르면 크기가 배치 길이에 따라 단조롭게 계산되지 않던 문제를 고쳐 연속 할당 오류를 막았다. 이번 업데이트의 핵심은 새로운 추론 기능 추가가 아니라, 해당 메모리 크기 계산을 바로잡은 것이다. 이 설명은 GitHub의 b12034 릴리스 페이지를 출처로 한다.

수정 대상은 WebGPU에서 사용하는 임시 메모리 할당 크기 계산이다. 배치 길이에 따른 크기 계산이 단조롭지 않았다는 점이 문제로 명시됐고, 그 결과로 연속 할당 오류가 발생할 수 있었다. b12034는 그 계산 문제를 고쳐 오류를 막는 변경이다. 따라서 이번 릴리스에서 확인할 수 있는 내용은 WebGPU 경로의 특정 할당 문제와 그 수정에 한정된다. 다른 실행 경로나 별도의 기능 변경이 이번 릴리스에 포함됐는지는 제공된 릴리스 요약만으로 확인할 수 없다.

제공된 정보에는 오류가 발생한 구체적 조건이나 영향을 받은 범위가 나와 있지 않다. 성능 변화나 벤치마크 결과도 제시되지 않아, 수정의 효과를 수치로 평가할 근거는 없다. 확인되는 것은 배치 길이에 따라 단조롭지 않던 임시 메모리 크기 계산을 고쳤고, 연속 할당 오류를 막았다는 릴리스 설명이다. 그러므로 b12034는 WebGPU 할당 오류에 대한 수정으로 보는 것이 적절하며, 그 이상의 영향이나 성능 개선까지 이 변경에서 단정할 수는 없다.

같은 분야의 다른 프로젝트

범용 로컬 엔진 →