Devotd Github
发布通用本地引擎

ggml-org/llama.cpp b12175 — CPU 检查并发执行数设置

ggml-org/llama.cpp 的 b12175 在自有的 CPU 检查中新增了两个用于指定并发执行数的变量。

仓库信息ggml-org/llama.cpp ↗

一款用于在本地执行大语言模型的通用 C/C++ 推理引擎。

GitHub 项目说明: LLM inference in C/C++

星标
★ 133.6K
复刻
25.2K
语言
C++
许可证
MIT
最新版本
2026年11月7日
查看原始来源 ↗在 GitHub 查看 ↗

ggml-org/llama.cpp 的 b12175 是 2026 年 11 月 6 日公开的发布版本。该仓库是用 C/C++ 实现的 LLM 推理项目。本次变更处理的是其自运行的 CPU 检查直接沿用主机线程数的问题。根据发布说明,新增了两个用于设置并发执行数的变量。因此,本次消息的核心并不是新增推理功能,而是让 CPU 检查阶段可以指定并发执行数的变更。

发布说明称,两个新变量的值分别被指定为 8 和 4,用于高性能 CPU 任务。这意味着为该任务确定了两个设置值。但是所提供的信息中没有给出变量名称。也没有说明这两个值分别对应哪项任务或哪条执行路径。因此,仅凭这些信息无法更具体地说明某个设置的作用或适用范围。

可确认的变更仅限于新增这两个变量,以及为高性能 CPU 任务指定的 8 和 4。发布信息中没有给出适用于其他 CPU 任务或执行路径的数值。也没有能够显示检查时间变化了多少、或该变更是否影响推理性能的数值。因此,b12175 所变更的范围和设置值是可以确认的,但公开信息中并没有可用来判断实际运行结果差异的依据。将这一发布版本视为指定并发执行数的配置变更是恰当的。

同领域的其他项目

通用本地引擎 →