gpustack/gpustack

GPUStack 是一个 Apache-2.0 开源管理器，用于管理本地服务器、Kubernetes 和云端的 GPU 集群，提供基于 vLLM·SGLang 的模型服务以及可通过 SSH 接入的 GPU 实例，最新版本为 v2.2.3。

GitHub 项目说明: A GPU cluster manager for high-performance AI model serving (vLLM, SGLang) and on-demand SSH-accessible GPU instances.

星标

★ 5.9K

复刻

692

语言

Python

许可证

Apache-2.0

最新版本

v2.2.3