professorpalmer/mirai-s-ada 仓库于 2026 年 10 月 26 日发布了 bundle-20261026。按照仓库说明，该项目在 12 GB 显存的 RTX 4070 上处理 Qwen3.8-27B-S trellis GGUF（Mirai S），并使用 262k q8_0 分层缓存和按深度进行的 MTP 起草。本次提交是一个说明性提交，向 RELEASE-NOTES.md 追加了 11 行，模型文件保持不变，只把引擎二进制换成了新的。引擎提交为 2c49257ea，分支为 serve/qkv-prefetch。
改动只有一处：张量核心注意力内核。在使用 q8_0 缓存的状态下，每个线程会在进入 K·Q 计算之前，预先读入下一个分块的 K 与 V 数据，使得在 K·Q 与 softmax 执行期间 V 数据已经到达。计算顺序与算术运算保持原样，只是把内存读取提前了。
目的是在长上下文中降低延迟，同时保持输出不变。根据说明，logits 与 bundle-20261019d 逐字节相同，并在 5 个测试单元中同时确认了提示词批处理和 1～8 令牌的批处理。在 RTX 4070 上用 llama-bench 测得，提示词处理在 32k 上下文下为 1.034 倍，64k 下为 1.058 倍，解码为 1.009 倍和 1.014 倍。相同的改动也原样进入了姊妹发行版 Bonsai serve 的补丁 0072。
不过，这些数字只是仓库方用自己的 RTX 4070 测得的 llama-bench 值，并非独立测量。改进幅度也仅在 1.009 倍到 1.058 倍之间，收益最大的区间是 64k 上下文的提示词处理一侧。适用范围也仅限于使用 q8_0 缓存的注意力内核，启动器、层和测试套件都没有改动。由于没有给出其他 GPU 或其他模型文件下的结果，这个 bundle 在特定环境中究竟有多大用处，目前还难以判断。这是一个值得读一读的优化，但还不足以作为通用性的速度提升来接受。