Devotd Github
发布推理与服务

mw00/project-maya v1.1.39 — 复用系统提示与 SSD 读取改进

介绍 mw00/project-maya v1.1.39 的变更,该项目用于在个人 GPU 上运行大型 MoE 模型。

仓库信息mw00/project-maya ↗

介绍 mw00/project-maya v1.1.39 的变更,该项目用于在个人 GPU 上运行大型 MoE 模型。

GitHub 项目说明: Project Maya - run GLM-5.3-Flash (321B MoE), DeepSeek-V4.1-Flash-1017 (748B MoE) and MiniMax-M3.1-Flash (428B MoE) privately on your own GPU(s), from one card to 16, NVIDIA or AMD, Linux or Windows. Engine, server, dashboard, OpenAI- and Anthropic-compatible API, quant tools.

星标
★ 2.2K
复刻
295
语言
Cuda
许可证
MIT
最新版本
v1.1.39
查看原始来源 ↗在 GitHub 查看 ↗

mw00/project-maya v1.1.39 已作为 GitHub release 发布。2026 年 10 月 29 日的 release 摘要列出的变更为:复用系统提示、改进 SSD expert 读取、模型导入。这是该项目的又一个新版本,用于在个人 GPU 上运行大型模型。release 来源为 https://github.com/mw00/project-maya/releases/tag/v1.1.39。

根据仓库说明,Project Maya 是一个可以在自有 GPU 上私有运行 GLM-5.3-Flash(321B MoE)、DeepSeek-V4.1-Flash-1017(748B MoE)和 MiniMax-M3.1-Flash(428B MoE)的工具。它支持单卡到 16 卡,目标平台为 NVIDIA 或 AMD GPU、Linux 或 Windows。除引擎、服务器和仪表板之外,它还提供兼容 OpenAI 和 Anthropic 的 API 以及量化工具。因此,一个项目所涵盖的范围不仅有模型运行,还有服务对接与量化工具。

不过,已提供的信息只给出了这三项变更的名称,未说明系统提示复用和 SSD 读取改进的具体作用范围,也没有给出性能数据。同样也没有提供许可证信息。因此,仅凭这些信息无法判断本次版本会在多大程度上改变实际处理性能,也无法确定各项变更分别适用于哪些配置。