GPUStack은 AI 모델 서빙용 GPU 클러스터를 관리하는 오픈소스 관리자다. 공개 저장소는 gpustack/gpustack이고, GitHub에 적힌 최신 릴리스는 v2.2.3이다. 다만 이 버전에 담긴 변경 항목은 이번에 정리한 자료에 들어 있지 않아, 무엇이 달라졌는지는 저장소의 릴리스 노트를 직접 확인해야 한다.
구현 언어는 Python이고 라이선스는 Apache-2.0이다. 관리 대상은 온프레미스 서버, Kubernetes 클러스터, 클라우드 환경의 GPU 클러스터로, 여러 장소의 GPU 자원을 한곳에서 다룰 수 있다. 여러 클러스터의 워커와 추론 엔진을 조율해 모델 서비스를 분산 배포하는 것이 핵심 역할이다. 추론 엔진은 vLLM·SGLang·TensorRT-LLM과 사용자 정의 엔진을 모두 구성할 수 있고, 필요할 때면 요청해 SSH로 바로 접속할 수 있는 GPU 인스턴스도 함께 제공한다. 자동 장애 복구, 부하 분산, 모니터링, 인증과 접근 제어, OpenAI 호환 API까지 묶여 있다. 현재 GitHub 별 수는 5862개다.
다만 제공된 README 요약에는 성능 벤치마크나 실제 운영 배포 규모를 보여 주는 수치가 없다. 별 수 5862개와 자료에 기록된 모멘텀 점수(10점 만점 기준 4.6)는 관심의 신호일 뿐 검증된 성능은 아니다. 비교 대상도 함께 제시되지 않아 다른 관리자와의 우열은 이 자료로 가리기 어렵다. 온프레미스와 클라우드가 섞인 환경에서 어떤 엔진 조합을 어느 규모까지 붙일 수 있는지는 릴리스 노트와 소스 코드를 더 봐야 안다. 확인되는 것은 관리 대상의 폭과 Apache-2.0 라이선스까지이고, 성능과 운영 규모는 판단을 미룰 수밖에 없다.