freriadoc/avalon 是一个为 Qwen3.8-Flash-Next 量身定制的 llama.cpp 分叉。仓库描述与 README 介绍的是面向该模型的配置。FACTS 中没有登记的最新版本,因此没有可作为版本更新来参考的内容。该仓库使用 C++ 编写,采用 MIT 许可证。本项目的重点是面向特定模型调优的执行路径,而不是广泛支持多个模型。
据 README,Avalon 在 AMD GPU 上使用 ROCm,并说明了把部分专家权重放在系统内存中的做法。该模型在 512 个专家中激活 10 个,而专家混合(MoE)是指根据输入只让部分专家参与计算。Avalon 提出的目标配置是拆分这些权重,使模型能够在一张消费级 GPU 上运行。这是一个单模型优化分叉应对硬件内存限制的案例。
README 给出了 RX 7900 XT 上按条件划分的生成速度以及长上下文实验。与 Strata 及 RTX 4090 的对比结果也放在单独一节中,但 FACTS 里没有具体的测量数值。README 说明其中若干数字来自作者的环境与测量流程,因此不能当作普遍的性能保证。可以确认的范围因而仅限于该特定模型和已列出的测试条件,没有依据认为在其他 GPU 或模型上也会得到相同结果。