flashinfer-ai/flashinfer 的最新提交（2026-11-08）是一项修正性改动，修复了用于 LLM 服务的内核库 FlashInfer 中 `cake_gqa_nondet_train` 路径上的三处边界检查缺陷。该路径是为头维度 256 构建的 Cake 可变长度因果 GQA 训练注意力，可将长度不同的多个序列作为一个批次一起处理。本次更改属于正确性修正，不改变内核与执行计划。
修复的三处内容都是对输入边界的校验。backward 会检查主机侧的序列边界列表 `cu_seqlens_q_host` 与 `cu_seqlens_k_host` 是同时提供还是同时缺失，以及是否与操作数尺寸相符——并且这些检查都发生在内存分配以及 query·key 为空时的提前返回之前。设备端瓦片计数器是 int32，超过 2^31 个瓦片后数值会回绕，范围检查在这种情况下会用 int64 重新构建边界表，以过滤掉错误的范围。最后，`host_boundaries` 的默认值改为 `None`，并让 backward 为每个 forward 参数返回一个梯度，使参数个数为 9 的 `apply` 调用仍能正常工作。测试方面新增了 130 行，在子进程中运行针对回绕的 int32 瓦片表的检查。
没有性能变化。在 GB200、GB300、R200 上以与 FlashInfer main 相同的模式比较 9 种形态 × 3 种运算（前向、反向、步进）时，所有行都落在 A/A 噪声带内（GB200 ±0.69%–±3.34%，GB300 ±0.12%–±1.19%，R200 ±0.27%–±9.94%），这正是正确性修正所预期的结果。
不过，证据所能覆盖的范围很窄。int64 路径在所测的各种形态中一次也没有触发，而可能增长到 2^31 个瓦片的形态的行为也没有通过测量得到确认。在 8 个小调用布局中，GB300 的两个前向行（`tails_small` 0.950x、`tile_edges` 0.980x）超出了 ±3.21%、±0.91% 的带宽，但由于该改动没有触及前向代码，因此被报告为 14~31 us 调用的测量噪声。供参考，相对于确定性 Cake 包（`cake_gqa_det_train`，PR #9121），步进为 0.992x–1.039x；相对于每行最快的同精度非 Cake 实现，步进为 1.050x–1.262x。换言之，这个提交更接近于过滤错误范围的安全装置，而不是速度上的竞争。