Devotd Github

vllm-project/vllm

了解 vllm-project/vllm 的最新版本 v0.32.0,以及仓库中记录的优化工作与功能。

GitHub 项目说明: A high-throughput and memory-efficient inference and serving engine for LLMs

在 GitHub 查看 ↗
星标
★ 95.8K
复刻
24.1K
语言
Python
许可证
Apache-2.0
最新版本
v0.32.0

文章

1