jpb18/polystrata-hip は Strata 系の実験的推論エンジン strata-poly を AMD HIP に移植した個人フォークです。新しいバージョンや公開リリースは FACTS では示されていません。リポジトリの説明では、Qwen3.8-Flash-Next、GLM 5.3 Flash、Qwen3.6、Ornith 1.5、Gemma 4 などのモデルを個人 PC で実行する用途を掲げています。Windows と Linux 向けワンクリックインストーラ、localhost で使う OpenAI・Anthropic API、画像入力も説明に含まれています。
このリポジトリが扱う中心は、AMD アクセラレータで混合 expert(MoE)モデルを実行する経路です。混合 expert モデルは入力に応じて一部の expert のみを計算に使います。リポジトリの説明によると、グラフィックスメモリに入る expert はキャッシュとして残し、残りは CPU が計算します。アテンションのキー・値キャッシュには Q8_0 を使い、VRAM 予算制御と適応型の expert キャッシュも実装したと紹介されます。RX 9060 XT 16GB で Qwen3.6-35B-A3B UD-Q3_K_M を約 32K コンテキストで実行し、MTP スペキュレーションを含めて 70.7 トークン/秒を記録したという数値も示しています。
性能と品質の検証は Windows 11、Radeon RX 9060 XT 16GB、Ryzen 5 5600X、32GB メモリの組み合わせでのみ行われており、リポジトリはこれを保証として提示していません。したがって、この結果はその構成での記録として読むべきです。AMD GPU におけるローカル推論の最適化と計測データを確認できますが、他のハードウェアでの性能や挙動まで示す根拠にはなりません。