Devotd Github
发布通用本地引擎

niko1221/strata v0.2.9 — DeepSeek 组合选择与处理改进

niko1221/strata v0.2.9 是一次发布,包含 Unsloth 1 位 DeepSeek 组合选择,以及特定环境下的提示词处理和并发请求改进。

仓库信息niko1221/strata ↗

一款为 Qwen3.8-Flash-Next 提供一键安装及本地兼容 API 的完整推理引擎。

GitHub 项目说明: Qwen3.8-Flash-Next on any consumer hardware: one-click install for Windows / Linux. Strata inference engine, OpenAI/Anthropic API on localhost, optional image input.

星标
★ 36.7K
复刻
4K
语言
C++
许可证
MIT
最新版本
v0.2.9
查看原始来源 ↗在 GitHub 查看 ↗

niko1221/strata v0.2.9 包含 Unsloth 1 位 DeepSeek 组合选择、Strix Halo 的提示词处理改进,以及 Linux NVIDIA 显卡的并发请求改进。GitHub 发布说明把应用版本 0.2.9 和引擎包版本 0.1.55 分开列出。因此,这次变更可以以发布说明所记的三项内容和两个组件的版本来解读。来源是 v0.2.9 的发布说明。

Strata 是一个让消费级硬件也能运行 Qwen3.8-Flash-Next 的推理引擎项目。仓库说明介绍了面向 Windows 和 Linux 的一键安装。它还说明在 localhost 上提供 OpenAI 和 Anthropic API,并可选支持图像输入。本次发布中的 DeepSeek 组合选择是该项目新增的选项,而 Strix Halo 的提示词处理和 Linux NVIDIA 显卡的并发请求则分别被列为改进对象。仓库说明展示了产品的使用范围,但仅凭这些条目无法判断特定设备上的性能。

发布摘要没有给出这三项变更的具体改进幅度或测量结果。关于 Strix Halo 和 Linux NVIDIA 显卡的内容,也只能确认是这些环境下的处理改进。因此,没有依据把它解读为所有硬件上的速度提升或响应质量改善。可以确认的是 v0.2.9 中列出的选择功能,以及这两条处理路径的变更;性能效果仅凭所提供的信息难以评估。

同领域的其他项目

通用本地引擎 →