ggml-org/llama.cpp b11913 包含一项更改,允许直接指定六边形执行路径的 VTCM 大小,并可在设置值后附加 K·M·G 后缀。该内容已发布在 GitHub 发布页面上。仓库说明将 llama.cpp 介绍为一个基于 C/C++ 的 LLM 推理项目。本次发布中可以确认的更改,涉及特定执行路径的大小设置方式以及输入值的书写方式。该更改的来源和版本分别可通过 GitHub 发布页面和 b11913 确认。仅凭这些信息,不能认为同时还有其他功能或行为发生了变化。
这项更改的核心在于,现在可以直接指定用于确定六边形路径中 VTCM 大小的输入。值可使用 K·M·G 后缀这一点也在发布摘要中有明确说明。因此,可以确认的范围仅限于大小指定功能和后缀写法的增加。所提供的事实没有说明 VTCM 具体指什么、设置值以何种格式输入,以及各个后缀分别对应多大尺寸。仓库显示有 132470 个 star,但仅凭这一数字无法判断本次更改的影响或该功能的适用性。
发布摘要没有给出该设置适用的设备和使用条件、后缀的倍数基准,也没有说明改变大小带来的性能或内存影响。设置项的具体名称和变更文件也不在可确认的事实范围内。因此,b11913 中可以确认的范围就是六边形路径中 VTCM 大小的直接指定和 K·M·G 后缀的允许。除此之外,仅凭该发布信息难以判断其性能效果和使用条件。