ggml-org/llama.cpp 是一个使用 C/C++ 进行大语言模型推理的项目。2026 年 11 月 2 日发布的版本 b12034 修复了 WebGPU 临时内存分配大小的计算问题。根据版本说明摘要,它修复了大小未随批长度单调计算的问题,从而避免了连续分配错误。本次更新的重点不是添加新的推理功能,而是修正该内存大小计算。此说明以 GitHub 上的 b12034 发布页面为来源。
修复的对象是 WebGPU 中使用的临时内存分配大小的计算。问题被明确指出为:依赖批长度的尺寸计算并非单调,这可能导致连续分配错误。b12034 正是修复该计算问题、避免这些错误的改动。因此,本次发布中可以确认的内容仅限于 WebGPU 路径上的特定分配问题及其修复。其他执行路径或单独的功能变更是否包含在本次发布中,仅凭所提供的版本说明摘要无法确认。
所提供的信息并未说明错误发生的具体条件或受影响范围。也没有给出性能变化或基准测试结果,因此没有依据以数值方式评估该修复的效果。可以确认的只是版本说明中的表述:修复了随批长度而非单调计算的临时内存大小计算,并避免了连续分配错误。因此,把 b12034 视为针对 WebGPU 分配错误的修复是恰当的,而除此之外的影响或性能改进,无法仅凭这一改动断言。