Devotd Github
릴리스추론/서빙

mw00/project-maya v1.1.45 — 단일 GPU 메모리 오류 수정

mw00/project-maya v1.1.45는 한 장 GPU에서 DeepSeek-V4.1-Flash의 긴 프롬프트 처리 중 발생하던 메모리 접근 오류를 수정했다.

저장소 정보mw00/project-maya ↗

mw00/project-maya v1.1.45는 한 장 GPU에서 DeepSeek-V4.1-Flash의 긴 프롬프트 처리 중 발생하던 메모리 접근 오류를 수정했다.

GitHub 설명: Project Maya - run GLM-5.3-Flash (321B MoE), DeepSeek-V4.1-Flash-1017 (748B MoE) and MiniMax-M3.1-Flash (428B MoE) privately on your own GPU(s), from one card to 16, NVIDIA or AMD, Linux or Windows. Engine, server, dashboard, OpenAI- and Anthropic-compatible API, quant tools.

스타
★ 2.3K
포크
314
언어
Cuda
라이선스
MIT
최신 릴리스
v1.1.45
원문 보기 ↗GitHub에서 보기 ↗

mw00/project-maya v1.1.45가 2026년 10월 31일 공개됐다. 이번 버전은 한 장 GPU에서 DeepSeek-V4.1-Flash를 실행할 때 긴 프롬프트가 잘못된 메모리 접근으로 실패하던 문제를 고쳤다. 릴리스 설명에 따르면 백그라운드에서 로딩 중인 전문가와 겹치던 메모리 구간을 정리한 수정이다. 변경의 출처는 mw00/project-maya의 v1.1.45 릴리스다.

mw00/project-maya는 GLM-5.3-Flash(321B MoE), DeepSeek-V4.1-Flash-1017(748B MoE), MiniMax-M3.1-Flash(428B MoE)를 자체 GPU에서 실행하기 위한 프로젝트다. 한 장부터 16장까지의 GPU 환경을 대상으로 하며, NVIDIA와 AMD GPU, Linux와 Windows를 지원한다고 저장소는 설명한다. 엔진과 서버, 대시보드뿐 아니라 OpenAI 및 Anthropic 호환 API와 양자화 도구도 제공 범위에 포함된다. 따라서 특정 모델 실행 기능에 그치지 않고, 모델 실행과 API 제공에 필요한 구성 요소를 함께 다루는 프로젝트다.

이번 릴리스 설명이 밝히는 수정 범위는 한 장 GPU에서 DeepSeek-V4.1-Flash의 긴 프롬프트 처리 중 발생한 오류다. 다른 모델이나 GPU 구성에서 같은 문제가 해결됐다는 내용은 주어지지 않았다. 그러므로 v1.1.45의 변경을 전체 모델과 하드웨어 조합에 대한 수정으로 확대해서 해석하기는 어렵다.