github.devotd.
发布推理与服务

Niko1221/Strata v0.1.44.1 — 旧款 CPU 的 SIGILL 热修复

Strata v0.1.44.1 修复了旧款 CPU 上的 SIGILL 错误、构建问题以及服务器的崩溃重试行为。

仓库信息niko1221/strata ↗

Qwen3.8-Flash-Next on any consumer hardware: one-click install for Windows / Linux. Strata inference engine, OpenAI/Anthropic API on localhost, optional image input.

星标
★ 26.7K
复刻
2.8K
语言
C++
许可证
MIT
最新版本
v0.1.45
查看原始来源 ↗在 GitHub 查看 ↗

Niko1221/Strata v0.1.44.1 是 2026 年 10 月 14 日发布的热修复,修复了旧款 CPU 上出现的启动错误等问题。在不支持 AVX2 的 Xeon X5670 以及 Sandy/Ivy Bridge 上,NVFP4 查找表的初始化例程会执行 AVX/FMA 指令并以 SIGILL 终止,本次修复了该问题。本次发布并非扩展现有功能,而是处理 CPU 兼容性、构建以及服务器崩溃处理的维护版本。

Strata 是一个在 Windows 和 Linux 上为消费级硬件安装推理引擎,并在 localhost 上提供 OpenAI 和 Anthropic API 的项目。也可以选择图像输入。本次修改在编译期生成 NVFP4 表,并将 CPU 支持检测移到首次使用时进行。tools/check_isa_guard.py 会检查相关文件的初始化例程中是否使用了 AVX 指令。这一改动针对的正是缺少 AVX2 的 CPU 在启动阶段执行了错误指令的问题。

服务器此前会把引擎崩溃误判为 AMD 驱动争用并重试三次,现在改为在信号崩溃时不重试。阻塞 CUDA 12.0/12.1 工具链构建的 __ushort_as_half 主机函数改为直接扩展比特位。Apple M2 上的答案正确性错误也已修复,但答案与 0.1.44 相同。因此,本版本可观察到的变化是对运行时错误、构建路径和崩溃处理的修复,而非答案本身的改动。