poisonxa16/pxa

poisonxa16/pxa v4.0.0 是面向 Pascal·Volta GPU 的推理引擎，声称在相同文件基准下有性能提升。

GitHub 项目说明: The set-and-forget LLM engine for Pascal and Volta: PXQ codec + kernels, auto-tuned per card. Ready-to-run PXQ models in MODELS.md; benchmarks vs llama.cpp in the README.

星标

★ 98

复刻

15

语言

C++

许可证

MIT

最新版本

v4.0.0