fly9i/spark-engine

fly9i/spark-engine은 NVIDIA DGX Spark에서 EXL3 모델을 제공하는 Rust 기반 추론 엔진이다.

GitHub 설명: From-scratch EXL3 inference engine for NVIDIA DGX Spark (GB10): GLM-5.3-Flash on two Sparks (TP2) + Qwen3.8-Flash-Next on one, OpenAI-compatible, 1M context, speculative decoding

스타

★ 9

포크

0

언어

Rust

라이선스

MIT

최신 릴리스

v0.3.11