llama.cpp 是一个使用 C/C++ 进行大语言模型(LLM)推理的仓库。ggml-org/llama.cpp 的 b11953 版本于 2026 年 10 月 28 日公开,并在 CUDA 后端中新增了可处理 384 个专家的 top-k 混合运算。此变更的来源是该项目的 b11953 发布记录。
本次变更中可以确认的核心是:可处理 384 个专家的混合运算已添加到 CUDA 后端中。top-k 是该运算名称中包含的表述,但发布摘要并未说明 k 的取值,也未说明选择和合并专家的具体方式。因此,仅凭这条记录无法说明该运算的具体行为范围,也无法说明哪些模型在使用它。仓库描述为基于 C/C++ 的 LLM 推理,将本次变更理解为仅限于该后端新增了一项运算更为准确。
发布记录没有说明该运算的实现细节、支持的模型和适用条件。它也没有给出性能对比或准确度变化,因此没有依据判断推理是否变快或结果是否发生变化。此外,该记录也没有说明这次变更针对的是什么样的使用场景。因此,在 b11953 中能够确认的更新仅仅是 CUDA 后端新增了这项混合运算,其实际适用范围和效果无法仅凭所提供的信息得出结论。