새 소식
valeriodolci/capy-flash v0.5.4 — 16GB GPU 두 장의 NVFP4 MoE 추론
valeriodolci/capy-flash의 Qwen3.8-Flash-Next 추론 구성과 README에 공개된 Strata 비교 수치를 다룬다.
Qwen3.8-Flash-Next (MoE, NVFP4) and Qwen3.8-27B on two 16 GB consumer GPUs: two-GPU tensor parallel, experts offloaded to CPU. Formerly ninfer-tp2.
GitHub에서 보기 ↗valeriodolci/capy-flash의 Qwen3.8-Flash-Next 추론 구성과 README에 공개된 Strata 비교 수치를 다룬다.
조건에 맞는 소식이 없습니다.