nathanw1014/strix-halo-llamacpp

AMD Strix Halo 向けの llama.cpp にフラッシュアテンションと MoE のプリフィルの修正を適用し、現在の Mesa ドライバも同梱するリポジトリ。

GitHub の説明: Performance-tuned llama.cpp for AMD Strix Halo (gfx1151): FA + MoE-prefill fixes with a bundled current Mesa driver. Vulkan and HIP; portable dir, Docker, and distrobox.

スター

★ 221

フォーク

20

言語

Python

ライセンス

NOASSERTION

最新リリース

v0.8.0