プロジェクト

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

投稿

リリースOCT 19

sgl-project/sglang v0.5.22 は、新規モデルサポート、モデルロードの変更、プリフィルとデコードの分離配置、疎注意の適用範囲の拡大をまとめたリリースです。