Devotd Github
发布通用本地引擎

ggml-org/llama.cpp b12052 — OpenCL 后端新增 top-k 掩码运算

llama.cpp 构建 b12052 为 OpenCL 后端新增了 top-k 掩码运算。

仓库信息ggml-org/llama.cpp ↗

一款用于在本地执行大语言模型的通用 C/C++ 推理引擎。

GitHub 项目说明: LLM inference in C/C++

星标
★ 133.2K
复刻
25.1K
语言
C++
许可证
MIT
最新版本
2026年11月3日
查看原始来源 ↗在 GitHub 查看 ↗

ggml-org/llama.cpp 是一个使用 C/C++ 进行大语言模型(LLM)推理的项目。构建 b12052 于 2026 年 11 月 2 日发布,根据发布摘要,本次变更为 OpenCL 后端新增了 top-k 掩码运算。该变更的来源是仓库的 b12052 发布记录。

本次发布中具体可以确认的是,该运算已添加到 OpenCL 后端。因此,能够新记录的只有 llama.cpp 该后端新增了一项运算,仅凭发布摘要无法说明该运算的内部行为或使用条件。仓库说明将项目的范围描述为基于 C/C++ 的 LLM 推理,但并未说明本次变更适用于推理流程的哪个阶段。仓库星标数记录为 133173。

所给信息中没有 top-k 掩码运算的定义、支持对象,也没有其他后端是否支持的信息。也没有给出性能测量或应用案例,因此无法判断这次新增对执行时间或结果有何影响。许可证等单独的项目信息同样未包含在本次 FACTS 中。因此,b12052 中可以确认的仅止于 OpenCL 后端新增了一项运算,没有依据就其效果或适用范围作出更宽泛的断言。

同领域的其他项目

通用本地引擎 →