wallawalla47/infernix

infernix의 2026-11-05 커밋은 122B 모델의 프롬프트 CPU 보조 범위를 255열에서 575열로 넓혀 256열 이후에 생기던 처리량 단절을 줄였다.

GitHub 설명: C++/CUDA single-GPU inference engine for Qwen3.8 (incl. Qwen3.8-Flash-Next with offloaded experts) on the RTX 5090; grew from NInfer

스타

★ 118

포크

18

언어

C++

라이선스

Apache-2.0

최신 릴리스

windows-2026.10.11