elevatormusic/deepseek-v4.1-flash-1017-exl3-tensorfold-2x-dgx-spark

DeepSeek V4.1 Flash를 DGX Spark 두 대에서 실행하는 설정 레시피와 vLLM kit 대비 디코딩 속도 측정 기록을 소개한다.

GitHub 설명: DeepSeek-V4.1-Flash-1017 EXL3 2.9bpw on 2x NVIDIA DGX Spark (GB10) with TensorFold: 2.1-2.3x the vLLM kit's decode speed.

스타

★ 63

포크

5

언어

Python

라이선스

Apache-2.0

최신 릴리스

v1.0.0