poisonxa16/pxa

poisonxa16/pxa v4.0.0은 파스칼·볼타 GPU용 추론 엔진으로, 같은 파일 기준 성능 향상을 주장한다.

GitHub 설명: The set-and-forget LLM engine for Pascal and Volta: PXQ codec + kernels, auto-tuned per card. Ready-to-run PXQ models in MODELS.md; benchmarks vs llama.cpp in the README.

스타

★ 98

포크

15

언어

C++

라이선스

MIT

최신 릴리스

v4.0.0