kserve/kserve v0.21.0은 Kubernetes 위에서 생성형 AI와 예측형 AI 추론을 한 플랫폼으로 묶어 배포하는 표준화된 분산 추론 플랫폼의 최신 릴리스다. Go로 작성됐고 Apache-2.0 라이선스로 공개돼 있으며 저장소는 2019년 3월 27일에 생성됐다. README는 여러 AI 프레임워크의 모델을 한 클러스터 안에서 스케일 가능하게 올리는 일을 이 플랫폼의 핵심 용도로 설명한다.
지원 기능이 이 플랫폼의 범위를 보여 준다. OpenAI와 호환되는 추론 프로토콜, GPU 가속, 모델 캐싱, 자동 확장, 트래픽 제어가 포함되고, 사용량이 없을 때 자원을 줄이는 scale-to-zero와 모델 설명 및 모니터링도 지원한다. vLLM과 llm-d를 통합해 대규모 서빙을 지원한다. 저장소는 여러 조직에서 쓰이는 CNCF incubating 프로젝트로 기록돼 있으며 별 수는 6136이다. 생성형과 예측형, 여러 프레임워크를 한 클러스터에서 함께 운영해야 하는 환경에 초점을 둔 구조다.
다만 제공된 기록에는 v0.21.0의 릴리스 노트와 변경 목록이 없다. 이번 버전에서 무엇이 추가됐고 무엇이 바뀌었는지는 이 기록만으로 확인되지 않는다. 성능 벤치마크나 도입 사례 수치도 제시되지 않았고, 기록된 평가는 모멘텀 항목만 2.1(10점 척도)로 낮고 신선함·기술·품질 항목은 비어 있다. 기능 범위와 라이선스 조건은 명확한 편이지만, KServe의 실질적인 변화와 실사용 성능은 이번 릴리스 기록만으로 판단하기 이르다.