vllm-project/vllm 是用于大语言模型（LLM）推理与服务的引擎。最新版本是 v0.32.0，本次记录中该仓库已正式登记。仓库说明强调高吞吐量和内存效率，但所提供的 FACTS 中既没有本次版本的变更清单，也没有性能测量数据。因此，v0.32.0 究竟有哪些变化无法作为已确认的事实呈现。
vLLM 用于生成模型响应并将其作为服务提供。它支持以页为单位管理注意力键值（KV）内存的 PagedAttention，以及连续批处理，即持续将到达的请求打包处理的方式。它还提供前缀缓存与量化，以及优化过的内核。支持 Hugging Face 模型与 GPU 和 CPU，并具备分布式推理、流式输出和 OpenAI 兼容的 API 服务器功能。它用 Python 编写，采用 Apache-2.0 许可证。
记录中写道，自 10 月初以来，在 MI355X(gfx950) 上优化 Kimi-K3 和 Qwen3.8 性能的工作一直在进行。双向 KV 传输功能早在 5~6 月就已合入，因此不能算作本次发布的变更。可以确认 vLLM 广泛支持推理与服务，但仅凭所提供的资料难以判断 v0.32.0 的改进内容或性能变化。