Devotd Github
新发现推理与服务

slimsami/strycast v0.4.0-qwen35moe.1 — 面向 Strix Halo 的 Gufo 分支

slimsami/strycast 是面向 AMD Strix Halo 的 Gufo 社区分支,覆盖 Gufo 模型选择之外的配置,最新版本提供 Qwen3.6-35B-A3B 的 MTP 与 DFlash2 指南。

仓库信息slimsami/strycast ↗

slimsami/strycast 是面向 AMD Strix Halo 的 Gufo 社区分支,覆盖 Gufo 模型选择之外的配置,最新版本提供 Qwen3.6-35B-A3B 的 MTP 与 DFlash2 指南。

GitHub 项目说明: Strycast (Strix outcast): community fork of Gufo for Strix Halo models outside Gufo's lineup — smaller-memory machines or specific use cases. Qwen3.6-35B-A3B with MTP and DFlash2.

星标
★ 2
复刻
1
语言
C++
许可证
MIT
最新版本
v0.4.0-qwen35moe.1
查看原始来源 ↗在 GitHub 查看 ↗

slimsami/strycast 是面向 AMD Strix Halo 的推理引擎 Gufo 的社区分支。它处理 Gufo 模型列表中没有的模型配置,以适配更小的内存环境或特定用途。最新版本为 v0.4.0-qwen35moe.1。仓库说明介绍了以 MTP 和 DFlash2 运行 Qwen3.6-35B-A3B,版本标签也指向 Qwen 35B MoE 配置。不过该记录中没有该版本新增变更的详细清单。

该项目的范围是拓宽 Strix Halo 设备上可选的模型配置及其运行指南。README 将 Qwen3.6-35B-A3B 和 Ornith 1.5 122B 的指南与推理方式、权重文件、性能表以及质量资料链接在一起。仓库说明指出,在 Qwen 35B-A3B 的预填充阶段支持每秒最多 3,000 个 token。预填充是先行处理输入内容的阶段。这是仓库给出的性能信息,并不代表其他模型或硬件的性能。

实现语言为 C++,许可证为 MIT。README 还说明了贡献规则:只有通过测试的变更才会合并到主分支。不过,所提供的指南以及性能与质量资料集中在这两个模型的配置上。因此,Strycast 与其说是覆盖所有 Strix Halo 推理配置的引擎,不如说是一个在研究 Gufo 未涵盖的特定模型配置时可供参考的分支。