github.devotd.
发布通用本地引擎

niko1221/strata v0.2.2 — 显卡 Gyro 支持与 RX 6000 引擎包

在消费级硬件上运行 Qwen3.8-Flash-Next 的 Strata v0.2.2 包含对 Intel Arc 与 Mac 显卡的 Gyro 支持、恩智达显卡上更快的 Gyro、RX 6000 系列引擎包,以及应用与终端之间的模型文件夹共享。

仓库信息niko1221/strata ↗

一款为 Qwen3.8-Flash-Next 提供一键安装及本地兼容 API 的完整推理引擎。

GitHub 项目说明: Qwen3.8-Flash-Next on any consumer hardware: one-click install for Windows / Linux. Strata inference engine, OpenAI/Anthropic API on localhost, optional image input.

星标
★ 29.6K
复刻
3.1K
语言
C++
许可证
MIT
最新版本
v0.2.2
查看原始来源 ↗在 GitHub 查看 ↗

niko1221/strata 的 v0.2.2 已于 2026 年 10 月 21 日通过 GitHub 发布。本版本的核心是扩大了显卡支持范围。发布说明称,新增了对 Intel Arc 和 Mac 显卡的 Gyro 功能支持,并且恩智达显卡上的 Gyro 运行得更快。现在每张显卡都可以在 Main、Helper、Off 中选择其一,应用与终端共享同一个模型文件夹。新增了 RX 6000 系列的引擎包和可选的 API 密钥,响应速度的定义也统一为一处。

Strata 是在消费级硬件上运行 Qwen3.8-Flash-Next 的推理引擎。仓库说明提到提供 Windows 和 Linux 的一键安装,在 localhost 上开放 OpenAI 与 Anthropic API,并将图像输入列为可选项。该仓库目前已获得 29614 个 star。v0.2.2 触及的部分是硬件支持范围和模型文件夹的共享方式。RX 6000 系列的专用引擎包,以及应用与终端改为共用同一个模型文件夹,正属于这一部分。

不过,仅凭公开信息很难衡量改进的幅度。关于恩智达显卡上 Gyro 更快的说法,既没有给出作为比较基准的环境,也没有给出数值;发布信息中也没有说明 Gyro 究竟处理什么。将响应速度定义统一为一处的变更同样没有说明适用范围。除了支持范围扩大这一事实之外,性能究竟提升了多少,仅凭发布信息难以判断。

同领域的其他项目

通用本地引擎 →