tensorrails/warmctl

warmctl v2.0.0-beta.18이 0으로만 채워진 상주 메모리를 체크포인트에서 제외하는 TensorRails DMTCP v5.0.0-warmctl.2를 동봉해, RTX 3090에서 Qwen3-0.6B 프로세스 이미지가 8,582 MiB에서 6,065 MiB로 줄었다.

GitHub 설명: Snapshot a warmed-up vLLM engine and restore it in seconds

스타

★ 17

포크

0

언어

Go

라이선스

Apache-2.0