kvcache-ai/mooncake

kvcache-ai/mooncake의 최신 릴리스 v0.3.13.post1과 분산 KV cache 저장·전송 구조를 다루고, 릴리스 변경 내용과 성능 수치가 확인되지 않는 범위까지 짚는다.

GitHub 설명: Mooncake is the serving platform for Kimi, a leading LLM service provided by Moonshot AI.

스타

★ 6.8K

포크

1.4K

언어

C++

라이선스

Apache-2.0

최신 릴리스

v0.3.13.post1