Devotd Github
发布通用本地引擎

ggml-org/llama.cpp b12179 — Hexagon 路径三维卷积接入

ggml-org/llama.cpp b12179 是包含 Hexagon 路径三维卷积接入与基于分块的执行相关改动的发布。

仓库信息ggml-org/llama.cpp ↗

一款用于在本地执行大语言模型的通用 C/C++ 推理引擎。

GitHub 项目说明: LLM inference in C/C++

星标
★ 133.6K
复刻
25.2K
语言
C++
许可证
MIT
最新版本
2026年11月7日
查看原始来源 ↗在 GitHub 查看 ↗

ggml-org/llama.cpp b12179 于 2026-11-06 公开。该仓库是以 C/C++ 实现的 LLM 推理项目。本次发布将三维卷积接入 Hexagon 路径,并调整了基于分块的执行与输入展开计算。其中还包含了对正数水平步幅处理的改进以及分块选择的改进。变更内容的出处是 b12179 发布页:https://github.com/ggml-org/llama.cpp/releases/tag/b12179。

本次更新的核心是让 Hexagon 路径能够处理三维卷积的连接,并对相关执行方式做了调整。基于分块的执行与输入展开计算是一起调整的,正数水平步幅处理和分块选择也被明确列为改进目标。因此,b12179 与其说是新增了单一功能,不如说是同时处理了该路径上的卷积执行与分块相关改动。鉴于该仓库是面向 LLM 推理的 C/C++ 项目,本条内容更聚焦于推理路径内部的运算处理变更,而非一般性说明。

所提供的发布摘要中没有给出性能数值或基准测试结果。因此,仅凭这一变更无法判断实际的速度提升,也无法判断对其他执行路径的效果。可以确认的范围仅限于 Hexagon 路径上与卷积连接及基于分块的执行相关的调整,超出该范围的性能效果在现有信息下没有依据。

同领域的其他项目

通用本地引擎 →