jpb18/polystrata-hip 是把 Strata 系列实验性推理引擎 strata-poly 移植到 AMD HIP 的个人分支。FACTS 中未提出新的版本或公开发布信息。仓库说明提出,其用途是在个人电脑上运行 Qwen3.8-Flash-Next、GLM 5.3 Flash、Qwen3.6、Ornith 1.5、Gemma 4 等模型。面向 Windows 和 Linux 的一键安装器、在 localhost 上使用的 OpenAI 与 Anthropic API,以及图像输入也都包含在说明中。
该仓库的核心,是在 AMD 加速器上运行混合专家(MoE)模型的路径。混合专家模型会根据输入,只把部分 expert 用于计算。据仓库说明,能够放进图形内存的 expert 保留为缓存,其余由 CPU 计算。注意力键·值缓存使用 Q8_0,并介绍了对 VRAM 预算控制和自适应 expert 缓存的实现。它还给出这样一个数值:在 RX 9060 XT 16GB 上以约 32K 上下文运行 Qwen3.6-35B-A3B UD-Q3_K_M 时,包含 MTP 推测在内达到 70.7 token/秒。
性能与质量验证仅在 Windows 11、Radeon RX 9060 XT 16GB、Ryzen 5 5600X、32GB 内存这一组合下进行,仓库也未将其作为保证提出。因此,这些结果应理解为该配置下的记录。可以借此了解在 AMD GPU 上的本地推理优化与实测数据,但它并不能证明其他硬件上的性能或表现。