github.devotd.
릴리스추론/서빙

sgl-project/sglang v0.5.22 — 모델 지원과 서빙 변경

sgl-project/sglang v0.5.22는 새 모델 지원과 모델 로딩, 프리필·디코딩 분리 배치, 희소 어텐션 적용 범위 확대를 담은 릴리스다.

저장소 정보sgl-project/sglang ↗

SGLang is a high-performance serving framework for large language models and multimodal models.

스타
★ 37.3K
포크
9.7K
언어
Python
라이선스
Apache-2.0
최신 릴리스
v0.5.22
원문 보기 ↗GitHub에서 보기 ↗

sgl-project/sglang은 대규모 언어 모델과 멀티모달 모델을 위한 서빙 프레임워크다. GitHub 릴리스 페이지에 따르면 v0.5.22는 2026-10-19 공개됐다. 이번 버전은 새 모델 지원과 모델 로딩 변경, 프리필과 디코딩의 분리 배치, 희소 어텐션 적용 범위 확대를 다룬다. 새 모델 지원과 서빙 과정의 변경이 함께 포함된 업데이트다. 구체적으로 어떤 모델이 추가됐는지, 모델 로딩의 어느 부분이 바뀌었는지는 제공된 릴리스 요약에 적혀 있지 않다.

이번 변경의 중심은 모델 지원 범위뿐 아니라 서빙 구성에도 있다. 프리필과 디코딩을 분리해 배치하는 방식과 희소 어텐션 적용 범위 확대가 릴리스 요약에 함께 제시됐다. 요약은 이를 새 모델 지원 및 모델 로딩과 나란히 다루지만, 각 변경의 세부 구현이나 적용 조건까지 설명하지는 않는다. 따라서 이번 릴리스에서 확인할 수 있는 것은 변경의 방향과 항목이며, 구체적인 동작 범위는 릴리스 정보만으로 단정하기 어렵다.

릴리스 설명에는 처리량과 속도 향상에 관한 측정 결과가 포함돼 있지만, 이는 배포 측이 제시한 결과다. 이번 분석에서는 해당 성능을 독립적으로 검증하지 않았다. 그러므로 성능 향상을 검증된 결과로 받아들이기보다는 릴리스 설명에 실린 주장으로 구분해야 한다. 제공된 정보만으로는 어느 환경에서 얼마나 달라지는지 판단할 수 없어, 성능 개선의 폭은 확인되지 않은 상태다.