deepseek-ai/flashmla 是 DeepSeek 的优化注意力内核库。根据该仓库 README 的说明,它支持在 NVIDIA GPU 和华为昇腾 NPU 上进行 DeepSeek-V4.1 推理。所提供的 FACTS 中没有最新的发布版本,因此无法作为版本变更来介绍。目前可以确认的内容是仓库说明以及 README 中记录的功能。
该项目提供用于 MLA 和按 token 计算的稀疏注意力内核。稀疏注意力是指不计算所有 token 之间的关系,而是挑选出所需的 token 关系再进行计算的方式。README 中列出了使用 FP8·FP4 KV 缓存的稀疏注意力预填充·解码内核、融合内核,以及稠密注意力的预填充·反向传播内核。因此其支持范围不仅是稀疏注意力,还包含稠密注意力的部分计算阶段。实现语言是 C++,许可证是 MIT。GitHub 星标数为 13180。这是依据仓库公开说明的范围。
所提供的 FACTS 中没有性能测量值或对比基准。因此支持平台和内核种类可以确认,但实际处理速度能提升多少,仅凭这份资料无法判断。仓库所关联的最新发布版本也未给出,因此很难把功能说明断言为某个特定版本的新增变更。