elevatormusic/deepseek-v4.1-flash-1017-exl3-tensorfold-2x-dgx-spark

介绍在两台 DGX Spark 上运行 DeepSeek V4.1 Flash 的配置配方，以及相对 vLLM kit 的解码速度测量记录。

GitHub 项目说明: DeepSeek-V4.1-Flash-1017 EXL3 2.9bpw on 2x NVIDIA DGX Spark (GB10) with TensorFold: 2.1-2.3x the vLLM kit's decode speed.

星标

★ 63

复刻

5

语言

Python

许可证

Apache-2.0

最新版本

v1.0.0