kindlingai/gr8

kindlingai/gr8의 최신 커밋은 GLM-5.3-Flash 빌드에 컨텍스트 병렬 KV를 추가해 KV 캐시 페이지를 여러 랭크에 나눠 저장하도록 했지만, 아직 실험 단계로 남아 있다.

GitHub 설명: GLM-5.3 (full) on 3-6 DGX Sparks (GB10): a from-scratch CUDA inference engine

스타

★ 35

포크

9

언어

Cuda

라이선스

MIT