nipegun/moe-gguf-server가 2026년 11월 3일 커밋(6a9e2d0)으로 저장소를 통째로 추가했다. 671,979줄이 새로 들어왔고 삭제는 0줄이며, 커밋 메시지는 “Tokens... My precious!”다. 이 프로젝트는 GGUF 형식의 MoE(Mixture of Experts, 하나의 모델 안에서 여러 하위 모델을 나눠 처리하는 구조) 모델을 로컬에서 돌리고 웹 채팅과 HTTP 추론 API를 제공하는 서버다.
README는 llama.cpp와 FreeToken을 언급하며 MoE 모델에서 가능한 가장 빠른 추론 속도를 목표로 한다고 밝힌다. 백엔드는 CMake 기반 C++ 코드고, Vulkan(AMD·Intel·NVIDIA), CUDA(NVIDIA), ROCm(AMD) 빌드 경로를 각각 지원한다. arm64 리눅스·macOS·윈도우와 riscv64(SpacemiT 리눅스)용 툴체인 파일도 들어갔다. mgs가 읽는 GGUF 아키텍처로 qwen35moe(Qwen3.6), glm-dsa(GLM-5.3), kimi-k3(Kimi-K3), deepseek41(DeepSeek-V4.1-Flash), minimax-m3(MiniMax-M3), flint(Flint)가 열거돼 있다. backend/common에는 chat-peg-parser와 chat-diff-analyzer 같은 채팅 파서·변경점 분석 모듈이 포함됐고, README는 15개 언어판을 함께 제공한다.
같은 커밋에 추가된 LICENSE는 PolyForm Noncommercial License 1.0.0이다. 개인 사용과 비영리 조직(자선단체, 교육기관, 공공 연구·안전·보건 기관, 정부기관)의 사용은 허용되지만 상업적 목적은 대상이 아니며, 라이선스의 서브라이선스와 양도도 금지된다. “가장 빠른 추론”이라는 목표를 뒷받침하는 벤치마크 수치는 이 커밋에 없고, README도 스크린샷이 아직 추가되지 않았다고 밝힌다. 배포는 root 권한을 요구하는 Debian 13 전용 설치 스크립트로 안내되고, ROCm 빌드는 HIP 6.1 이상이 필요해 Debian 13 기본 패키지(HIP 5.7)만으로는 그대로 빌드되지 않는다. 성능 근거는 확인할 수 없는 상태에서 상업 사용은 막히는 조건까지 함께 얹힌 셈이다.