helldez/bigmoeonedge

BigMoeOnEdge 0.40.1 は同梱の llama.cpp を上流 v0.9.0（2026-11-04）タグへ更新し、新しいアーキテクチャサポートと FP8 E4M3 テンソル型を同時に取り入れたリリースである。

GitHub の説明: Run MoE models bigger than your RAM. Frontier-size MoE on a 12 GB phone, lossless, on stock llama.cpp

スター

★ 626

フォーク

74

言語

C++

ライセンス

Apache-2.0

最新リリース

v0.29.0