wallawalla47/infernix

infernix の 2026-11-05 のコミットは、122B モデルのプロンプトに対する CPU アシスト範囲を 255 列から 575 列へ広げ、256 列以降で発生していたスループットの段差を縮めた。

GitHub の説明: C++/CUDA single-GPU inference engine for Qwen3.8 (incl. Qwen3.8-Flash-Next with offloaded experts) on the RTX 5090; grew from NInfer

スター

★ 118

フォーク

18

言語

C++

ライセンス

Apache-2.0

最新リリース

windows-2026.10.11