leonccaa/revolta

leonccaa/revolta v0.1.5 是一次发布，修复了 DFlash2 的提示词复用缓存范围以及模型加载器的索引分片读取。

GitHub 项目说明: Stable, high-throughput inference server for multi-GPU NVIDIA V100 (SM70): Qwen3.8 Flash-Next with AWQ / NVFP4, multimodal input, CPU/disk KV offload, and MTP or DFlash2 speculative decoding.

星标

★ 20

复刻

2

语言

Python

许可证

Apache-2.0

最新版本

v0.1.5