Devotd Github
发布通用本地引擎

ggml-org/llama.cpp b11827 — 新增面向 Adreno 的 OpenCL 深度卷积

ggml-org/llama.cpp 的构建 b11827 包含面向 Adreno 的 OpenCL 深度卷积,以及对本地程序方式和参数类型的修改。

仓库信息ggml-org/llama.cpp ↗

一款用于在本地执行大语言模型的通用 C/C++ 推理引擎。

GitHub 项目说明: LLM inference in C/C++

星标
★ 132K
复刻
24.7K
语言
C++
许可证
MIT
最新版本
2026年10月23日
查看原始来源 ↗在 GitHub 查看 ↗

ggml-org/llama.cpp 的构建 b11827 已公开。该仓库是一个基于 C/C++ 的 LLM 推理项目,本次发布新增了面向 Adreno 的 OpenCL 深度卷积。发布摘要同时记录了改为使用本地程序方式以及对参数类型进行调整这两项变更。因此,本次更新的核心是新的卷积路径、程序方式和参数类型方面的修改。公开说明中版本标注为 b11827,变更内容的出处是 GitHub 发布页面。

这一变更与 llama.cpp 推理实现中面向 Adreno 的 OpenCL 路径相关。仓库说明给出的范围是以 C/C++ 进行的 LLM 推理,本次发布摘要明确指出在其中新增了深度卷积。说明中也提到对本地程序方式和参数类型进行了调整,但没有给出每项修改具体适用于哪些代码或执行条件。因此,没有依据断定这是在特定模型或设备上的支持扩展,或是对既有行为的替换。公开的事实仅限于变更项的名称和目标。

发布信息没有给出性能测量值或对比结果,因此无法判断新路径对推理速度的影响。可以在哪些 Adreno 设备和模型上使用,以及本地程序方式的改动在实际运行中带来什么差别,也无法仅凭摘要得知。这一记录能确认的只是 b11827 中包含了相关的代码修改。因此,与其把性能提升或适用范围当作已确认的结果接受,不如在具体条件和测量数据公开之前,把结论限定在变更内容本身。

同领域的其他项目

通用本地引擎 →