nathanw1014/strix-halo-llamacpp

AMD Strix Halo용 llama.cpp에 플래시 어텐션과 MoE 사전 입력 수정을 적용하고 Mesa 드라이버를 묶은 저장소다.

GitHub 설명: Performance-tuned llama.cpp for AMD Strix Halo (gfx1151): FA + MoE-prefill fixes with a bundled current Mesa driver. Vulkan and HIP; portable dir, Docker, and distrobox.

스타

★ 221

포크

20

언어

Python

라이선스

NOASSERTION

최신 릴리스

v0.8.0