megasoft1978/strim-engine 是一个基于 Swift 的本地推理引擎,可在 Apple 芯片的 Mac 上运行 Qwen 系列模型。仓库说明将其目标列为 Qwen3.8-27B 和 MLX,同时还给出了一个用于编程代理的沙箱测试框架。GitHub 上显示的最新版本是 v0.1.7。不过所提供的资料并未列出该版本新增或变更的内容,因此无法确认 v0.1.7 的具体变更。
该项目的重点是在本地运行模型,并提供编程代理可以连接的 API。根据 README 摘要,其中给出了本地 API 地址和服务器运行示例,可以从中了解代理使用服务器的流程。服务器被介绍为以 OpenAI 格式工作,同时还说明了一个可选的菜单栏应用。它并不只介绍模型运行引擎,其特点在于一个仓库就涵盖了代理接入和服务器运行所需的信息。仓库语言为 Swift,许可证为 MIT。
README 摘要称其中公开了并发请求以及多个代理共享上下文场景下的测量结果与测量环境。然而所提供的 FACTS 中没有具体数值或环境条件,因此无法据此比较性能或推广到其他环境。沙箱测试框架的隔离范围在现有资料中也没有说明。它为本地代理配置提供了出发点,但性能与隔离水平仍需另行确认。