Devotd Github
发布通用本地引擎

ggml-org/llama.cpp b12171 — Vulkan ReBAR 支持性检查变更

ggml-org/llama.cpp b12171 将 Vulkan 执行路径改为检查是否支持 ReBAR,并在不支持的设备上避免分配 BAR 空间。

仓库信息ggml-org/llama.cpp ↗

一款用于在本地执行大语言模型的通用 C/C++ 推理引擎。

GitHub 项目说明: LLM inference in C/C++

星标
★ 133.6K
复刻
25.2K
语言
C++
许可证
MIT
最新版本
2026年11月7日
查看原始来源 ↗在 GitHub 查看 ↗

ggml-org/llama.cpp 的 b12171 版本将 Vulkan 执行路径改为检查是否支持 ReBAR,并在不支持的设备上避免分配 BAR 空间。llama.cpp 是一个基于 C/C++ 的 LLM 推理项目。本次修改属于该仓库推理功能中 Vulkan 执行路径的修正。发布信息所揭示的核心是支持性检查以及对不支持设备的分配回避。仅凭这段描述,无法认定其他执行路径也随之发生了变化。

本次变更的范围,是根据设备是否支持 ReBAR 而采取不同的 BAR 空间分配行为。该版本的具体更新点在于:在不支持的设备上不再分配这部分空间。因此,没有依据将这一内容扩大解读为一般性的 Vulkan 性能优化,或视为适用于所有设备的改动。发布日期为 2026-11-06,变更来源为 ggml-org/llama.cpp 的 b12171 发布说明。

所提供的发布说明中没有性能数据或基准测试结果。可以得知其行为是检查支持情况并在不支持的设备上回避分配,但并未给出实际性能表现或各设备效果的大小。因此,把 b12171 限定为一项改变了 Vulkan 路径中 ReBAR 支持检查与 BAR 空间分配处理的修改,才更为准确。

同领域的其他项目

通用本地引擎 →