Devotd Github
发布通用本地引擎

ggml-org/llama.cpp b12125 — Adreno X2 OpenCL 默认路径变更

ggml-org/llama.cpp b12125 是在 Adreno X2 系列上默认启用 f32 与 q5_k 多列 GEMV 路径的发布版本。

仓库信息ggml-org/llama.cpp ↗

一款用于在本地执行大语言模型的通用 C/C++ 推理引擎。

GitHub 项目说明: LLM inference in C/C++

星标
★ 133.4K
复刻
25.2K
语言
C++
许可证
MIT
最新版本
2026年11月5日
查看原始来源 ↗在 GitHub 查看 ↗

ggml-org/llama.cpp 是一个基于 C/C++ 的 LLM 推理项目。在 2026 年 11 月 5 日发布的 b12125 中,Adreno X2 系列上默认启用了 f32 与 q5_k 的多列 GEMV 路径。该变更记录在 GitHub 的 b12125 发布信息中。因此,本次发布的核心在于 OpenCL 处理路径中默认被选择的方式发生了变化。新版本的主要变更不是一般性的功能新增,而是把特定 GPU 系列的相应计算路径切换为默认值。

变更对象是 Adreno X2 系列的 OpenCL 处理路径,默认启用的项目是 f32 与 q5_k 的多列 GEMV 路径。f32 与 q5_k 是发布说明中给出的两种格式名称,GEMV 是变更对象路径的运算名称。发布信息所能确认的,是这一路径已默认启用,以及所列明的适用 GPU 系列。因此,在解读 b12125 的内容时,应以新的默认选择适用于什么范围为重点。

发布说明中没有关于此变更的性能测量值,也没有与既有路径的对比结果。新默认路径究竟有多快、在什么条件下会出现差异,均未给出。同样的切换是否适用于其他 GPU 系列或 OpenCL 以外的处理路径,仅凭这些信息无法确认。因此,本次变更应仅理解为 Adreno X2 系列的 OpenCL 默认路径发生改变的更新,没有依据将其视为已证明带来性能收益的发布版本。

同领域的其他项目

通用本地引擎 →