helldez/bigmoeonedge

BigMoeOnEdge 0.40.1은 내장 llama.cpp를 업스트림 v0.9.0(2026-11-04) 태그로 올려 새 아키텍처 지원과 FP8 E4M3 텐서 타입을 함께 넣은 릴리스다.

GitHub 설명: Run MoE models bigger than your RAM. Frontier-size MoE on a 12 GB phone, lossless, on stock llama.cpp

스타

★ 626

포크

74

언어

C++

라이선스

Apache-2.0

최신 릴리스

v0.29.0