新着
valeriodolci/capy-flash v0.5.4 — 16GB GPU 2 枚での NVFP4 MoE 推論
valeriodolci/capy-flash の Qwen3.8-Flash-Next 推論構成と、README で公開されている Strata との比較数値を扱う。
Qwen3.8-Flash-Next (MoE, NVFP4) and Qwen3.8-27B on two 16 GB consumer GPUs: two-GPU tensor parallel, experts offloaded to CPU. Formerly ninfer-tp2.
GitHub で見る ↗valeriodolci/capy-flash の Qwen3.8-Flash-Next 推論構成と、README で公開されている Strata との比較数値を扱う。
該当するニュースはありません。