jaedync/crucible-strix-halo は、AMD Strix Halo システムで Qwen3.8-Flash-Next の EXL3 チェックポイントを実行する推論エンジンである。対象は Ryzen AI Max+ 395 APU と Radeon 8060S グラフィック。公開されているリリース版はない。README には性能測定表とあわせて測定方法と再現条件も公開されている。
このリポジトリは他の推論エンジンをラップするのではなく、C++20 で記述した独自の ROCm/HIP カーネルを使う。ローカルの OpenAI 互換サーバーで会話、ストリーミング応答、関数呼び出しを提供し、正確な推測デコーディングにも対応していると説明している。推測デコーディングは次のトークンをあらかじめ予測し、その結果を検証して生成する方式である。README には文脈長とモデル圧縮率ごとのスループット表や、複数セッションを同時に実行した結果も載っている。ライセンスは Apache-2.0 である。
ただし、このエンジンの対象は Ryzen AI Max+ 395 と Radeon 8060S を含む特定の GPU アーキテクチャに限られる。著者も汎用バックエンドや運用サービスではなく研究用ソフトウェアと位置づけている。スループット数値は著者が公開した測定結果であり、他の環境や他のエンジンの性能を表すものではない。したがって汎用的な推論ツールというより、そのハードウェア向けの実装と測定資料として捉えるのが正確である。