kindlingai/gr8

kindlingai/gr8 的最新提交为 GLM-5.3-Flash 构建增加了上下文并行 KV，把 KV 缓存页分摊到多个 rank 上存储，但目前仍处于实验阶段。

GitHub 项目说明: GLM-5.3 (full) on 3-6 DGX Sparks (GB10): a from-scratch CUDA inference engine

文章

新发现11月8日

kindlingai/gr8 的最新提交为 GLM-5.3-Flash 构建增加了上下文并行 KV，把 KV 缓存页分摊到多个 rank 上存储，但目前仍处于实验阶段。