github.devotd.
发布推理与服务

niko1221/strata v0.2.0-beta — 应用、终端与内置引擎的安装程序

niko1221/strata v0.2.0-beta 是一个测试版发行,新增了应用与终端使用体验、包含引擎的安装程序,并改进了一些显卡的默认设置。

仓库信息niko1221/strata ↗

Qwen3.8-Flash-Next on any consumer hardware: one-click install for Windows / Linux. Strata inference engine, OpenAI/Anthropic API on localhost, optional image input.

星标
★ 28.1K
复刻
3K
语言
C++
许可证
MIT
最新版本
v0.2.0-beta
查看原始来源 ↗在 GitHub 查看 ↗

niko1221/strata v0.2.0-beta 在 Strata 推理引擎之上增加了应用和终端使用体验,并新增了包含引擎的安装程序。据 GitHub 发行说明,它在 NVIDIA 和 AMD 显卡上默认启用了图像输入。部分 NVIDIA 12~16GB 显卡、Linux 上的 AMD RX 9000 与 R9700,以及 Intel Arc 的默认设置也得到了改进。这些改动随仓库的 v0.2.0-beta 发行版一并发布。

Strata 是一个让 Qwen3.8-Flash-Next 在消费级硬件上运行的项目。仓库说明主打 Windows 和 Linux 的一键安装,在 localhost 上提供 OpenAI 和 Anthropic API,并把图像输入列为可选功能。本次版本在此前仅提供引擎的基础上加入应用和终端使用体验,并将安装步骤扩展为包含引擎。图形设置的改动针对发行说明中点名的显卡和环境,并非面向所有设备的一刀切改进。

发行说明指出,它会结合测量结果,区分哪些默认设置的答案相同、哪些不同。因此,不应把默认设置的改动理解为在所有设备上都能保证相同结果。本次版本属于测试版,已公开信息所涵盖的变更范围也仅限于点名的显卡和设置。

同领域的其他项目

本地推理引擎 ↗