Devotd Github
发布通用本地引擎

ggml-org/llama.cpp b12020 — 新增 OpenCL 的 FWHT 支持

ggml-org/llama.cpp b12020 是一个发布版本,它新增了面向 OpenCL 的 FWHT 支持,并公布了 macOS 与 iOS 的分发文件。

仓库信息ggml-org/llama.cpp ↗

一款用于在本地执行大语言模型的通用 C/C++ 推理引擎。

GitHub 项目说明: LLM inference in C/C++

星标
★ 132.9K
复刻
25K
语言
C++
许可证
MIT
最新版本
2026年10月31日
查看原始来源 ↗在 GitHub 查看 ↗

ggml-org/llama.cpp 的发布版本 b12020 是于 2026 年 10 月 31 日公开的构建。本次发布记录中列出的变更是新增面向 OpenCL 的 FWHT 支持,同时还公布了 macOS 与 iOS 的分发文件。仓库描述将该项目的定位为以 C/C++ 实现的 LLM 推理。因此本次消息的内容是:在这个推理项目的新版本中,为某项特定运算新增了 OpenCL 支持。其依据是 ggml-org/llama.cpp 公开的 b12020 发布记录。

所提供的事实中没有关于 FWHT 这一运算的详细说明或支持范围。能够确认的是,发布记录明确指出 b12020 中 FWHT 的支持目标为 OpenCL。仅凭这些信息,无法说明该路径可以在哪些设备或模型上使用,也无法说明它与既有方式有何不同。macOS 与 iOS 分发文件的公告同样属于发布记录中包含的事实,各文件的构成与使用条件均未给出。因此,对这次更新的解读应限定在明确列出的支持项与分发公告上,而不宜扩大解释其适用范围。

所提供记录中没有 FWHT 支持的性能数据或对比结果。因此,没有足够依据判断此次新增会对推理速度或资源占用带来何种变化。发布记录中可以确认的是面向 OpenCL 的 FWHT 支持以及 macOS·iOS 分发文件的公告,而不是实测的性能提升。要说明新支持的实际效果,需要单独的测量或更具体的使用条件,但目前给出的事实中并无此类信息。本次发布可以确认新增了支持,但其效果大小无法断言。

同领域的其他项目

通用本地引擎 →