새 소식
vllm-project/llm-compressor 0.14.0 — vLLM용 모델 압축 라이브러리
vllm-project/llm-compressor 0.14.0의 문서화된 모델 압축·양자화 기능과 확인 가능한 범위를 소개한다.
State-of-the-art LLM compression, built for production inference with vLLM
GitHub에서 보기 ↗vllm-project/llm-compressor 0.14.0의 문서화된 모델 압축·양자화 기능과 확인 가능한 범위를 소개한다.
조건에 맞는 소식이 없습니다.