Devotd Github
新发现推理与服务

miaai-lab/deepseek-v4-flash-dspark-2x-dgx-spark — 运行配置

一个配方仓库,介绍在两台 DGX Spark 上运行 DeepSeek-V4-Flash-Vision-Exp 的配置。

仓库信息miaai-lab/deepseek-v4-flash-dspark-2x-dgx-spark ↗

一个配方仓库,介绍在两台 DGX Spark 上运行 DeepSeek-V4-Flash-Vision-Exp 的配置。

GitHub 项目说明: DeepSeek-v4-Flash 0731 recipe for 2x DGX Sparks

星标
★ 1.5K
复刻
200
语言
Python
许可证
MIT
查看原始来源 ↗在 GitHub 查看 ↗

miaai-lab/deepseek-v4-flash-dspark-2x-dgx-spark 是一个配方仓库,用于在两台 DGX Spark 上运行 DeepSeek-v4-Flash 0731。其 README 将 DeepSeek-V4-Flash-Vision-Exp 作为运行目标,并说明 vLLM TP=2 配置。它不是发布新版本变更的发行说明,核心内容是仓库 README 中整理的运行方法与准备步骤。

如果想借助 DSpark 量化在本地设备上运行大模型,这份配置值得参考。README 中列出了 speculative decoding 路径、1M token 上下文上限以及图像输入路径。它还介绍了在实际运行前准备两个节点的网络与镜像、并配置模型缓存的步骤。内容不仅涵盖运行命令,也包括状态确认过程,因此可以完整查看从双节点配置准备到启动的整个流程。

不过 README 明确说明官方权重中不包含视频编码器。图像输入路径与视频编码器的缺失需要区分看待,仅凭这一事实并不能期待它支持视频输入。因此,这个仓库更接近于用来确认文档中所写运行配置与图像路径的参考材料。