ggml-org/llama.cpp b12194 是基于 C/C++ 的 LLM 推理项目的发布版本。根据发布摘要,此版本按照代码结构调整了 Hexagon 的向量处理设置和线程数。同时在构建工具中增加了开启 HTP_DEBUG 的功能,并整理了跟踪工具与资料存储库定义。变更内容的来源是 b12194 发布:https://github.com/ggml-org/llama.cpp/releases/tag/b12194。
本次变更是对 Hexagon 相关设置进行结构上的调整、并允许在构建过程中启用 HTP_DEBUG 的更新。还包含对跟踪工具与资料存储库定义的整理。因此,发布摘要中可以确认的范围是执行路径设置、调试功能以及工具与定义的整理。具体变更文件、配置值和适用方法在所提供的信息中没有出现。
所提供的信息中没有调整前后的性能数值或基准测试结果,也没有支持设备的范围。因此,仅凭这次变更无法判断运行速度的提升或适用的硬件。可以确认的只有 Hexagon 配置调整、构建工具新增 HTP_DEBUG 功能,以及跟踪工具与资料存储库定义的整理。性能效果无法仅凭这些信息得出结论。