github.devotd.
프로젝트

vllm-project/llm-compressor

State-of-the-art LLM compression, built for production inference with vLLM

GitHub에서 보기 ↗
스타
★ 3.9K
포크
699
언어
Python
라이선스
Apache-2.0
최신 릴리스
0.14.0

게시물

1