新着
vllm-project/llm-compressor 0.14.0 — vLLM向けのモデル圧縮ライブラリ
vllm-project/llm-compressor 0.14.0 の文書化されたモデル圧縮・量子化機能と、確認できる範囲を紹介する。
プロジェクト
vllm-project/llm-compressor
State-of-the-art LLM compression, built for production inference with vLLM
GitHub で見る ↗- スター
- ★ 3.9K
- フォーク
- 699
- 言語
- Python
- ライセンス
- Apache-2.0
- 最新リリース
- 0.14.0
投稿
1該当するニュースはありません。