ggml-org/llama.cpp 是一个基于 C/C++ 的 LLM 推理仓库。release b11819 是一版支持 Nemotron 模型的非标准分组查询注意力、BPE 分词器以及域词典设置的构建。metaspace 前缀方式也会作为 GGUF 元数据记录。这些内容出自 2026 年 10 月 22 日公开的 GitHub 发布标签。
这些变更以模型处理相关的支持项形式列出。分组查询注意力被明确说明在 Nemotron 模型中支持一种非标准形式,BPE 分词器与域词典设置也一并包含在内。metaspace 前缀方式并不是单独的功能说明,资料中只提到它被记录到 GGUF 元数据里。域词典设置针对哪些域、词典采用何种构成格式,均未给出。因此,这个发布中能够确认的,只是支持或记录了哪些格式与设置。
所提供的信息没有给出各项功能的实现范围或配置方法,也没有支持的模型列表。性能与准确率的比较、以及与以往构建相比的结果同样没有提供。因此,仅凭这次变更,无法判断推理速度或结果质量是否发生了变化。这是一个可以确认 Nemotron 模型相关支持项的发布,但实际效果与适用条件在缺少详细资料时难以判断。