leonccaa/revolta

leonccaa/revolta v0.1.5는 DFlash2의 프롬프트 재사용 캐시 범위와 모델 로더의 인덱스 조각 읽기를 수정한 릴리스다.

GitHub 설명: Stable, high-throughput inference server for multi-GPU NVIDIA V100 (SM70): Qwen3.8 Flash-Next with AWQ / NVFP4, multimodal input, CPU/disk KV offload, and MTP or DFlash2 speculative decoding.

스타

★ 20

포크

2

언어

Python

라이선스

Apache-2.0

최신 릴리스

v0.1.5