kserve/kserve v0.21.0 は、Kubernetes 上で生成型 AI と予測型 AI の推論を一つのプラットフォームにまとめてデプロイする、標準化された分散推論プラットフォームの最新リリースです。Go で書かれ、Apache-2.0 ライセンスで公開されており、リポジトリは 2019 年 3 月 27 日に作成されました。README は、このプラットフォームの主要用途を「複数の AI フレームワークのモデルを 1 つのクラスタ内でスケーラブルに動かすこと」と説明しています。
サポートされている機能がこのプラットフォームの範囲を示します。OpenAI 互換の推論プロトコル、GPU アクセラレーション、モデルキャッシュ、自動スケール、トラフィック制御が含まれ、利用がないときにリソースを減らす scale-to-zero や、モデルの説明とモニタリングにも対応します。vLLM と llm-d を統合し、大規模なサービングに対応します。リポジトリは複数の組織で使用されている CNCF incubating プロジェクトとして記録されており、スター数は 6136 です。1 つのクラスタで生成型と予測型、複数フレームワークをまとめて運用する環境に焦点を絞った構成です。
ただし、提示された記録には v0.21.0 のリリースノートや変更一覧は含まれていません。このバージョンで何が追加され、何が変わったのかはこの記録だけでは確認できません。パフォーマンスのベンチマークや導入事例の数値も示されておらず、記録された評価では勢い（momentum）項目のみが 2.1（10 点満点）と低く、新鮮度・技術・品質の各項目は空欄です。機能の範囲とライセンス条件は比較的明示されていますが、KServe の実質的な変更と実運用でのパフォーマンスは、このリリース記録だけから判断するには早いrelaxed Conclusions がある。