1115714829/llama.cpp-v100 是一个针对 NVIDIA Tesla V100（SM70）修改并优化 llama.cpp 计算内核与运行时的项目。所提供 FACTS 中可确认的最新版本是 v100-2.0.1.1。但该版本具体发生了哪些变更并未给出。仓库说明列出的支持范围包括多 GPU 运行、长上下文处理、多模态处理、并发服务以及内置 Web UI。
该派生分支的重点是在不改动公开 GGUF 权重与量化格式的前提下，在 V100 上提供多条推理路径。据说明，Qwen3.8-Flash-Next 在 6 张 V100-16GB 的配置下记录了 200K 上下文的预填充 3402 tok/s，并且在 2 张卡的配置下也能运行。Qwen3.8-27B 被介绍为通过 DFlash2 推测解码支持最高 220 tok/s 的解码。推测解码是先生成下一个 token 的候选再进行验证的方式。仓库说明称支持 2~6 张 GPU 与 262K~512K 上下文。
这些数值是仓库说明中所述 V100 配置下的结果，并不代表其他 GPU 上的性能。此外，最新版本号可以确认，但所给资料中没有 v100-2.0.1.1 的变更记录。因此，仅凭这份资料难以判断该版本的改进幅度或与其他 GPU 之间的性能差距。