github.devotd.
JA
English한국어简体中文日本語
プロジェクト

ovg-project/kvcached

Virtualized Elastic KV Cache for Dynamic GPU Sharing and Beyond

GitHub で見る ↗
スター
★ 1.8K
フォーク
216
言語
Python
ライセンス
Apache-2.0
最新リリース
v0.1.6

投稿

1