asf0/libstrix

asf0/libstrix는 AMD Strix Halo용 HIP 커널을 upstream vLLM 플러그인으로 선택 적용하는 저장소다.

GitHub 설명: HIP kernels for AMD Strix Halo (gfx1151) and a vLLM plugin that runs them on stock upstream vLLM: up to 31x faster prefill and ~2x decode at long context.

스타

★ 3

포크

0

언어

Python

라이선스

MIT