Devotd Github
发布推理与服务

cutlerbenjamin1-cmd/qwen38-megakernel v2026.10.29 —— 预构建包与并发执行选项

cutlerbenjamin1-cmd/qwen38-megakernel 的 v2026.10.29 版本新增了面向 Qwen3.8-27B 的预构建包,以及并发运行多个智能体的选项。

仓库信息cutlerbenjamin1-cmd/qwen38-megakernel ↗

cutlerbenjamin1-cmd/qwen38-megakernel 的 v2026.10.29 版本新增了面向 Qwen3.8-27B 的预构建包,以及并发运行多个智能体的选项。

GitHub 项目说明: Standalone OpenAI-compatible server for Qwen3.8-27B on one 24 GB NVIDIA GPU: CUDA megakernel (from open-jet), CPU vision encoder, launcher

星标
★ 5
复刻
1
语言
Cuda
许可证
AGPL-3.0
最新版本
v2026.10.29
查看原始来源 ↗在 GitHub 查看 ↗

cutlerbenjamin1-cmd/qwen38-megakernel 是一个独立的 OpenAI 兼容服务器,用于在单张 24GB NVIDIA GPU 上运行 Qwen3.8-27B。v2026.10.29 版本发布了预构建包,并新增了并发运行多个智能体的选项。这些变更记录在 2026 年 10 月 29 日公开的发布信息中。因此,本次更新的重点不只是说明服务器的新功能,而是同时提供了面向该模型的包分发与并发执行选项。

根据仓库说明,服务器配置包含来自 open-jet 的 CUDA megakernel、CPU 视觉编码器以及用于运行的 launcher。CUDA megakernel 是在 GPU 上承担模型计算的组件,视觉编码器则在 CPU 上运行。这种将 GPU 计算与 CPU 视觉编码器结合使用的配置体现了项目的实现范围。预构建包与多个智能体并发运行选项是本次发布中明确列出的变更。不过,仅凭发布信息无法更具体地说明各组件的细微行为或并发运行选项的工作方式。

可以确认的适用范围是在单张 24GB NVIDIA GPU 上运行 Qwen3.8-27B 的服务器。所提供的信息中没有性能测量数据,也没有在其他硬件上的运行结果。许可条件也未给出。因此,这次发布可以看作面向该环境的包与执行选项的公开,但难以将其解读为已证明性能或更广泛环境适用性的资料。