Devotd Github
新发现推理与服务

miaai-lab/deepseek-v4.1-flash-1017-2x-dgx-sparks — 双 DGX Spark 部署配置

介绍在两台 DGX Spark 上通过 TensorFold 提供 DeepSeek-V4.1-Flash-1017 EXL3 的配置以及验证范围。

仓库信息miaai-lab/deepseek-v4.1-flash-1017-2x-dgx-sparks ↗

介绍在两台 DGX Spark 上通过 TensorFold 提供 DeepSeek-V4.1-Flash-1017 EXL3 的配置以及验证范围。

GitHub 项目说明: DeepSeek-V4.1-Flash-1017 EXL3 on 2x DGX Sparks with TensorFold

星标
★ 280
复刻
44
语言
Python
许可证
Apache-2.0
查看原始来源 ↗在 GitHub 查看 ↗

miaai-lab/deepseek-v4.1-flash-1017-2x-dgx-sparks 是一份部署配方,在两台 DGX Spark 上基于 TensorFold 提供 DeepSeek-V4.1-Flash-1017 EXL3。该仓库说明了模型检查点与配置参数,以及准备和运行脚本。FACTS 中没有记录单独的最新发布版本。

README 介绍了 OpenAI 兼容 API、图像输入、工具调用、思考模式切换和 DSpark 推测解码。推测解码是先生成候选 token 再进行验证的方式。上下文窗口涉及最高 1,048,576 token 的设置,但实际测量包含的是 524,288 token 的设置。在完整窗口设置下,记录了一次 100,000 token 输入的运行。配置检查、构建结果,以及不同工具和条件下的性能测量也分别列出。

不过它说明,图像输入和工具调用未在该设备组合上验证。部分计算方案也没有在实际使用的 39 分片模型上重新运行。性能数字是项目自身的测量结果,并未给出独立复现的依据。因此,与其把文档中列出的全部功能和设置都当作已验证的性能,不如同时审视测量条件与验证范围。