asf0/libstrix

asf0/libstrix は、AMD Strix Halo 向け HIP カーネルを提供し、upstream vLLM プラグイン経由で選択的に適用するリポジトリです。

GitHub の説明: HIP kernels for AMD Strix Halo (gfx1151) and a vLLM plugin that runs them on stock upstream vLLM: up to 31x faster prefill and ~2x decode at long context.

スター

★ 3

フォーク

0

言語

Python

ライセンス

MIT