valeriodolci/capy-flash 是一个 C++ 引擎，把 125B 的 Qwen3.8-Flash-Next 以 NVFP4 量化后运行在两张 16GB 消费级 GPU 上。最新版本是 v0.5.4，公开信息中没有该版本的变更记录。该仓库此前使用的名称是 ninfer-tp2。
MoE 是一种只有部分专家参与计算的模型结构。capy-flash 用张量并行把计算分到两张 GPU 上，并将专家卸载到 CPU。README 公布了其在两张 RTX 5070 Ti 16GB、Ryzen 9 9900X、96GB DDR5 的配置下与 Strata 0.1.44.1 对比的自行复现基准测试。在 15k 提示词预填充中，capy-flash 的 NVFP4 结果为 3,778 tok/s，高于 Strata NVFP4 的 2,703 tok/s，首 token 时间也以 1.82 秒短于 2.42 秒。另一方面，Strata 的 3-bit IQ3_S 在 55k 提示词预填充下记录了 4,037 tok/s，生成速度为 124.1 tok/s。作者说明，在编码任务中 capy-flash 生成的 token 多 23%，但 20 次运行时间为 4.28 小时对 4.32 小时。他们报告使用了 NVIDIA 官方的 NVFP4 expert，未做重新量化；在 20 个多阶段编码任务的 1124 次工具调用中，malformed 为 0 次。
这些对比结果是在特定硬件与提示词条件下得到的自行复现基准。NVFP4 配置在部分指标上领先，但也有指标由 Strata 的 IQ3_S 领先，因此仅凭这些数字难以说明整体性能更优。