Devotd Github
新发现推理与服务

glm53-flash-cmp170hx-recipe — 在 README 中添加 DeepSeek 配方链接

仅改动 README 两行的提交 9d3b0be,从 GLM-5.3-Flash CMP 170HX 配方指向卡片配置相同的 DeepSeek-V4.1-Flash 配方仓库。

仓库信息morrowmake/glm53-flash-cmp170hx-recipe ↗

仅改动 README 两行的提交 9d3b0be,从 GLM-5.3-Flash CMP 170HX 配方指向卡片配置相同的 DeepSeek-V4.1-Flash 配方仓库。

GitHub 项目说明: GLM-5.3-Flash on 4× NVIDIA CMP 170HX with vLLM: up to 482.6 tok/s single-user, up to 943.7 tok/s at 8 users, 262K context, TP4 or PP4, one-command container install

星标
★ 76
复刻
10
语言
Python
许可证
MIT
最新版本
v1.8.0
查看原始来源 ↗在 GitHub 查看 ↗

morrowmake/glm53-flash-cmp170hx-recipe 是一个用 vLLM 将 GLM-5.3-Flash 部署到四张 NVIDIA CMP 170HX 卡上的配方仓库。最近一次提交 9d3b0be(2026-10-26) 没有改动任何代码或配置,只在 README.md 中增加了两行。新增的那句话是链接到可在同样四张 CMP 170HX 卡上运行的 DeepSeek-V4.1-Flash 配方仓库。这表明该仓库在按卡片配置归类整理的同时,也在同时引导使用其他模型的配方。

这个仓库所追求的是把硬件与模型固定下来的可复现运行环境。引擎和 Python 环境不会留在系统上,只以容器镜像的形式运行,克隆之后只需做一次性主机设置,就能用一条命令启动。README 说明启动时若检查通过则会自动开启 PCIe P2P,若不通过则在关闭 P2P 的情况下启动服务器。仓库说明给出的数值是:单用户最高 482.6 tok/s,8 名用户最高 943.7 tok/s;上下文为 262K,并行方式为 TP4 或 PP4。

不过这次改动只是增加了一行文档指引。性能数字来自仓库自身的说明,并非经由此次提交验证的结果,所链接的 DeepSeek-V4.1-Flash 配方的配置也未包含在这条记录中。由于配置和代码均保持原样,服务器的行为也不会发生变化。原文见提交 9d3b0be (https://github.com/Morrowmake/glm53-flash-cmp170hx-recipe/commit/9d3b0be374802e2f4e66cbc7ec7b1f203a6add78) 的页面。