sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

스타

★ 37.3K

포크

9.7K

언어

Python

라이선스

Apache-2.0

최신 릴리스

v0.5.22