Devotd Github
릴리스범용 로컬 엔진

ggml-org/llama.cpp b11819 — 네모트론 모델 지원 변경

ggml-org/llama.cpp release b11819는 네모트론 모델의 어텐션과 토크나이저, 도메인 사전 설정을 지원하고 메타스페이스 접두 방식을 GGUF 메타데이터에 기록한다.

저장소 정보ggml-org/llama.cpp ↗

C와 C++로 작성되어 대규모 언어 모델을 로컬에서 실행하는 범용 추론 엔진입니다.

GitHub 설명: LLM inference in C/C++

스타
★ 132K
포크
24.7K
언어
C++
라이선스
MIT
최신 릴리스
2026년 10월 22일
원문 보기 ↗GitHub에서 보기 ↗

ggml-org/llama.cpp는 C/C++ 기반 LLM 추론 저장소다. release b11819는 네모트론 모델의 비표준 그룹 질의 어텐션과 BPE 토크나이저, 도메인 사전 설정을 지원하는 빌드다. 메타스페이스 접두 방식도 GGUF 메타데이터로 기록한다. 이는 2026년 10월 22일 공개된 GitHub 릴리스 태그에 적힌 변경 내용이다.

변경 사항은 모델 처리와 관련한 지원 항목으로 제시돼 있다. 그룹 질의 어텐션은 네모트론 모델에서 비표준 형태를 지원한다고 명시됐고, BPE 토크나이저와 도메인 사전 설정도 함께 포함됐다. 메타스페이스 접두 방식은 별도 기능 설명이 아니라 GGUF 메타데이터에 기록된다는 점까지가 자료에 담긴 내용이다. 도메인 사전 설정이 어떤 도메인을 대상으로 하는지, 사전의 구성 형식이 무엇인지는 주어지지 않았다. 따라서 이 릴리스에서 확인할 수 있는 것은 어떤 형식과 설정을 지원하거나 기록하는지에 한정된다.

제공된 정보에는 각 기능의 구현 범위나 설정 방법, 지원하는 모델 목록이 없다. 성능·정확도 비교와 이전 빌드 대비 결과도 제시되지 않았다. 그러므로 이 변경만으로 추론 속도나 결과 품질이 달라진다고 판단할 근거는 없다. 네모트론 모델 관련 지원 항목을 확인할 수 있는 릴리스이지만, 실제 효과와 적용 조건은 상세 자료 없이는 판단하기 어렵다.

같은 분야의 다른 프로젝트

범용 로컬 엔진 →