thefahien/elpis-on-7900xtx

AMD RX 7900 XTX で Qwen3.8-27B EXL3 と DFlash2 を同時に動かす設定と計測データをまとめたリポジトリ。

GitHub の説明: Qwen3.8-27B EXL3 + DFlash2 speculative decoding on an AMD RX 7900 XTX (exllamav3-rocm): recipe, patches, benchmarks

スター

★ 8

フォーク

0

言語

Python

ライセンス

MIT