alleyxd/quantpicker

alleyxd/quantpicker v0.1.0은 GPU에서 GGUF 양자화 후보의 속도와 품질 손실을 측정해 실행할 후보를 고르는 명령줄 도구다.

GitHub 설명: Measures which GGUF quant of a model to run on your GPU: real speed and quality loss (KL divergence), not estimates.

스타

★ 15

포크

0

언어

Rust

라이선스

MIT

최신 릴리스

v0.1.0