ixmxamar/sageattention-rdna4

Quantized attention for AMD RX 9070 / 9070 XT (RDNA4, gfx1201): a hand-written HIP attention kernel behind SageAttention, serving the fused q/k/v views video models send, at 0.87-0.94x PR #368's time over production sizes.

スター

★ 13

フォーク

1

言語

Python

ライセンス

Apache-2.0

最新リリース

v0.4.0