Devotd Github
릴리스추론/서빙

mw00/project-maya v1.1.39 — 시스템 프롬프트 재사용과 SSD 읽기 개선

개인 GPU에서 대형 MoE 모델을 실행하는 mw00/project-maya의 v1.1.39 변경 사항을 소개한다.

저장소 정보mw00/project-maya ↗

개인 GPU에서 대형 MoE 모델을 실행하는 mw00/project-maya의 v1.1.39 변경 사항을 소개한다.

GitHub 설명: Project Maya - run GLM-5.3-Flash (321B MoE), DeepSeek-V4.1-Flash-1017 (748B MoE) and MiniMax-M3.1-Flash (428B MoE) privately on your own GPU(s), from one card to 16, NVIDIA or AMD, Linux or Windows. Engine, server, dashboard, OpenAI- and Anthropic-compatible API, quant tools.

스타
★ 2.2K
포크
295
언어
Cuda
라이선스
MIT
최신 릴리스
v1.1.39
원문 보기 ↗GitHub에서 보기 ↗

mw00/project-maya v1.1.39가 GitHub 릴리스로 공개됐다. 2026년 10월 29일자 릴리스 요약은 시스템 프롬프트 재사용, SSD 전문가 읽기 개선, 모델 가져오기를 변경 사항으로 제시한다. 이는 대형 모델을 개인 GPU에서 실행하기 위한 프로젝트의 새 버전이다. 릴리스 출처는 https://github.com/mw00/project-maya/releases/tag/v1.1.39이다.

저장소 설명에 따르면 Project Maya는 GLM-5.3-Flash(321B MoE), DeepSeek-V4.1-Flash-1017(748B MoE), MiniMax-M3.1-Flash(428B MoE)를 자체 GPU에서 비공개로 실행하는 도구다. GPU 한 장부터 16장까지 지원하며 NVIDIA 또는 AMD GPU, Linux 또는 Windows를 대상으로 한다. 엔진과 서버, 대시보드에 더해 OpenAI 및 Anthropic 호환 API와 양자화 도구도 제공한다고 설명한다. 따라서 모델 실행뿐 아니라 서비스 연결과 양자화 도구까지 한 프로젝트의 범위에 포함된다.

다만 제공된 정보는 세 변경의 이름만 밝히며, 시스템 프롬프트 재사용과 SSD 읽기 개선의 구체적인 동작 범위나 성능 수치는 제시하지 않는다. 라이선스 정보도 주어지지 않았다. 그러므로 이번 버전이 실제 처리 성능을 얼마나 바꾸는지, 각 변경이 어떤 구성에 적용되는지는 이 정보만으로 판단할 수 없다.