Devotd Github
发布推理与服务

mw00/project-maya v1.1.45 — 单 GPU 内存错误修复

mw00/project-maya v1.1.45 修复了在单张 GPU 上处理 DeepSeek-V4.1-Flash 长提示词时出现的内存访问错误。

仓库信息mw00/project-maya ↗

mw00/project-maya v1.1.45 修复了在单张 GPU 上处理 DeepSeek-V4.1-Flash 长提示词时出现的内存访问错误。

GitHub 项目说明: Project Maya - run GLM-5.3-Flash (321B MoE), DeepSeek-V4.1-Flash-1017 (748B MoE) and MiniMax-M3.1-Flash (428B MoE) privately on your own GPU(s), from one card to 16, NVIDIA or AMD, Linux or Windows. Engine, server, dashboard, OpenAI- and Anthropic-compatible API, quant tools.

星标
★ 2.3K
复刻
314
语言
Cuda
许可证
MIT
最新版本
v1.1.45
查看原始来源 ↗在 GitHub 查看 ↗

mw00/project-maya v1.1.45 于 2026 年 10 月 31 日发布。本次版本修复了在单张 GPU 上运行 DeepSeek-V4.1-Flash 时,长提示词因非法内存访问而失败的问题。发布说明称,该修改清理了与后台加载中的专家重叠的内存区域。变更来源为 mw00/project-maya 的 v1.1.45 发布。

mw00/project-maya 是一个用于在自有 GPU 上运行 GLM-5.3-Flash(321B MoE)、DeepSeek-V4.1-Flash-1017(748B MoE)、MiniMax-M3.1-Flash(428B MoE)的项目。它面向 1 至 16 张 GPU 的环境,仓库说明称支持 NVIDIA 和 AMD GPU,以及 Linux 和 Windows。除引擎、服务器和仪表板之外,兼容 OpenAI 和 Anthropic 的 API 以及量化工具也包含在提供范围之内。因此,它并不只是运行某个特定模型的功能,而是同时覆盖了模型运行与 API 提供所需的组件。

本次发布说明所揭示的修复范围,是在单张 GPU 上处理 DeepSeek-V4.1-Flash 长提示词时出现的错误。并没有给出其他模型或其他 GPU 配置下同一问题也已解决的说明。因此,很难把 v1.1.45 的变更扩大解读为针对全部模型与硬件组合的修复。