Devotd Github

helldez/bigmoeonedge

BigMoeOnEdge 0.40.1 是一次将内置 llama.cpp 升级到上游 v0.9.0(2026-11-04)标签的发布,同时带入了新架构支持和 FP8 E4M3 张量类型。

GitHub 项目说明: Run MoE models bigger than your RAM. Frontier-size MoE on a 12 GB phone, lossless, on stock llama.cpp

在 GitHub 查看 ↗
星标
★ 626
复刻
74
语言
C++
许可证
Apache-2.0
最新版本
v0.29.0

文章

1