kindlingai/gr8

kindlingai/gr8 の最新コミットは GLM-5.3-Flash ビルドにコンテキスト並列 KV を追加し、KV キャッシュページを複数のランクに分割して保存するようにした。ただしまだ実験段階にとどまっている。

GitHub の説明: GLM-5.3 (full) on 3-6 DGX Sparks (GB10): a from-scratch CUDA inference engine

スター

★ 35

フォーク

9

言語

Cuda

ライセンス

MIT