Devotd Github
发布通用本地引擎

ggml-org/llama.cpp b11870 — 正式支持 DeepSeek-V4 Flash

ggml-org/llama.cpp b11870 是一次发布,包含 DeepSeek-V4 Flash 的正式支持、n-gram 表格格式变更以及压缩键值读取优化。

仓库信息ggml-org/llama.cpp ↗

一款用于在本地执行大语言模型的通用 C/C++ 推理引擎。

GitHub 项目说明: LLM inference in C/C++

星标
★ 132.3K
复刻
24.8K
语言
C++
许可证
MIT
最新版本
2026年10月25日
查看原始来源 ↗在 GitHub 查看 ↗

ggml-org/llama.cpp 的 b11870 发布正式支持 DeepSeek-V4 Flash 模型。仓库说明称其是一个基于 C/C++ 的 LLM 推理项目。本次变更还包含 n-gram 表格格式的改动。读取压缩键值时只计算一次的优化也一并加入。变更内容的来源是 GitHub 上的 ggml-org/llama.cpp b11870 发布。发布日期为 2026 年 10 月 25 日。因此,该版本中可确认的核心是新的模型支持以及两项与推理相关的变更。

n-gram 表格的格式发生了变化,压缩键值处理方面也应用了将读取计算减少到一次的优化。不过,所提供的发布摘要并未说明新表格格式的具体结构,也未说明它与旧格式的兼容方式。也没有给出压缩键值优化适用的具体路径或比较基准。因此,这里能确认的只是变更的种类和概括的意图。仅凭发布摘要很难判断具体的实现范围。

发布摘要中明确写有 DeepSeek-V4 Flash 支持,但没有给出支持的目标设备或配置。性能测量值和质量对比也不在已提供的事实之内。因此,没有依据把 b11870 的正式支持解读为特定环境下的速度或质量提升。这次发布是宣布模型支持和处理方式变更的更新,实际性能与兼容性仍留在摘要未涵盖的范围内。

同领域的其他项目

通用本地引擎 →