kvcache-ai/mooncake

kvcache-ai/mooncake の最新リリース v0.3.13.post1 と分散 KV キャッシュの保存・転送構造を扱い、記録から確認できないリリース変更点と性能数値の範囲を指摘する。

GitHub の説明: Mooncake is the serving platform for Kimi, a leading LLM service provided by Moonshot AI.

スター

★ 6.8K

フォーク

1.4K

言語

C++

ライセンス

Apache-2.0

最新リリース

v0.3.13.post1