fly9i/spark-engine

fly9i/spark-engineは、NVIDIA DGX SparkでEXL3モデルを提供するRustベースの推論エンジンです。

GitHub の説明: From-scratch EXL3 inference engine for NVIDIA DGX Spark (GB10): GLM-5.3-Flash on two Sparks (TP2) + Qwen3.8-Flash-Next on one, OpenAI-compatible, 1M context, speculative decoding

スター

★ 9

フォーク

0

言語

Rust

ライセンス

MIT

最新リリース

v0.3.11