kvcache-ai/mooncake

介绍 kvcache-ai/mooncake 的最新版本 v0.3.13.post1 及其分布式 KV cache 存储与传输结构，并指出在给定记录中无法确认的版本改动与性能数据范围。

GitHub 项目说明: Mooncake is the serving platform for Kimi, a leading LLM service provided by Moonshot AI.

星标

★ 6.8K

复刻

1.4K

语言

C++

许可证

Apache-2.0

最新版本

v0.3.13.post1