sgl-project/sglang 是面向大语言模型与多模态模型的服务框架。根据 GitHub 发布页面,v0.5.22 于 2026-10-19 发布。本次版本涉及新的模型支持与模型加载变更、prefill 与解码的分离部署,以及稀疏注意力适用范围的扩大。它是一次同时包含新模型支持和服务流程变更的更新。具体新增了哪些模型、模型加载的哪一部分发生了变化,提供到的发布摘要中没有说明。
本次变更的重点不只是模型支持范围,也包括服务配置。prefill 与解码的分离部署方式,以及稀疏注意力适用范围的扩大,在发布摘要中一并提出。摘要将其与新模型支持和模型加载并列讨论,但没有说明各项变更的具体实现或适用条件。因此从本次发布中可以确认的是变更的方向和条目,而具体的行为范围仅凭发布信息难以断定。
发布说明中包含了与吞吐量和速度提升相关的测量结果,但那是发布方给出的结果。本次分析并未对该性能进行独立验证。因此,性能提升更适合作为发布说明中的主张来区分,而不是当作已验证的结果。仅凭提供的信息无法判断在不同环境下会有多大差异,性能改进的幅度仍处于未确认状态。