intel/neural-compressor

整理模型压缩库 intel/neural-compressor 的最新版本 v3.10（支持 PyTorch、TensorFlow、JAX）、所支持的量化技术范围，以及资料中未涉及的版本变更内容。

GitHub 项目说明: SOTA low-bit LLM quantization (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) & sparsity; leading model compression techniques on PyTorch, TensorFlow, and ONNX Runtime

星标

★ 2.7K

复刻

330

语言

Python

许可证

Apache-2.0

最新版本

v3.10