新发现
vllm-project/llm-compressor 0.14.0 — 面向 vLLM 的模型压缩库
介绍 vllm-project/llm-compressor 0.14.0 中已记录的模型压缩与量化功能，以及可确认的范围。
项目
vllm-project/llm-compressor
State-of-the-art LLM compression, built for production inference with vLLM
在 GitHub 查看 ↗- 星标
- ★ 3.9K
- 复刻
- 699
- 语言
- Python
- 许可证
- Apache-2.0
- 最新版本
- 0.14.0
文章
1没有符合条件的动态。