Devotd Github
发布通用本地引擎

ggml-org/llama.cpp b11972 — 层级范围限制与 M-RoPE 循环修补

ggml-org/llama.cpp b11972 是一个限制了控制向量张量的层级编号并修补了 M-RoPE 位置处理循环的发布。

仓库信息ggml-org/llama.cpp ↗

一款用于在本地执行大语言模型的通用 C/C++ 推理引擎。

GitHub 项目说明: LLM inference in C/C++

星标
★ 132.7K
复刻
24.9K
语言
C++
许可证
MIT
最新版本
2026年10月29日
查看原始来源 ↗在 GitHub 查看 ↗

基于 C/C++ 的 LLM 推理项目 ggml-org/llama.cpp 发布了 b11972。2026-10-28 的发布包含两处修改。它限制了控制向量张量的层级编号,使其不超过模型范围,并修补了 M-RoPE 的位置处理循环。与其说这是介绍新功能的发布,不如说这是对既有处理路径的边界和循环处理加以打磨的改动。

对控制向量张量层级编号的限制,是为了降低在传入较大编号时可能写入缓冲区前端的风险。通过限制层级编号不超出模型范围,阻止处理超出模型范围的编号。M-RoPE 是用于位置处理的方式,本次改动修补了其中的位置处理循环。发布信息并未说明这两处修改的具体实现方式或适用条件。

因此,可以确认的变化是层级编号限制与 M-RoPE 循环修补,以及降低写入缓冲区前端风险这一目的。特定输入下问题是否会复现、性能或输出会出现哪些差异,给出的发布信息中都没有说明。这个版本的意义更接近于降低既定处理路径风险并修补位置处理的维护性工作,而不是推理性能提升或新功能。来源是 ggml-org/llama.cpp 的 b11972 发布。

同领域的其他项目

通用本地引擎 →