sgyaqing/verdict 于 2026-10-26 的提交 ec3452b 发布了 v0.3.0。Verdict 是面向 System One 决策模型的高性能服务引擎,本版本首次处理多模态。新系列 verdict-models/OneJev1.6 有 0.8b、4b、9b、27b 四种规模。图像和视频在 /v1/systemone 按 TypeSafe 的 assets 规范处理,图像在 /v1/decisions 按 OpenAI 兼容的 input_image 处理。权重同时上传至 Hugging Face 和 ModelScope,更新记录称其回答已与官方模型对照验证。
模型的选择方式也发生了变化。多个规模放在同一个仓库中,通过 :variant 标签指定规模,包只需清单(manifest)即可组成。首次服务时会把官方仓库整体快照保存,包含权重和分词器,并检查是否缺失。推理路径中,文本与媒体解码在 CUDA 图中执行,共享前缀的媒体由 fork 图处理。torch.compile 缓存在重启后依然保留。
请求处理规则也做了调整。新增 --max-body-mb,默认值为 64 MiB;若未指定 --max-input-tokens,则在模型声明的 max_len 处截断。执行器进程崩溃时,服务器不会反复返回 500 响应,而是以非零退出码停止。部署方式是 Docker Hub 上的两个镜像 sgyaqing/verdict:0.3.0-cpu 和 0.3.0-cuda(linux/amd64)。性能方面,README 新增了以 RTX 4090 为基准的 OneJev1.6-9b 文本、图像、视频处理吞吐量及 P99 延迟图表,并称吞吐量最高可达模型制作方服务器的 66 倍。
可验证的范围很有限。提交统计为新增 4104 行、删除 2209 行,最大改动是 executor/torch_exec.py(新增 1334 行)。Apache-2.0 许可证与 NOTICE 一并进入镜像构建,NOTICE 中说明调度设计参考了 vLLM,批量队列设计参考了 Text Embeddings Inference,图运行器取自 qev(OmniJev) 的 mm_engine.py。多模态系列只有 OneJev1.6 一个,媒体处理需要 pillow 13.0.0 和 torchvision 0.29.1。Dockerfile.base-media 中写明,即便对 VL 检查点进行纯文本服务,Qwen 视频处理器也要求 torchvision。由于没有给出外部验证数值,也没有给出支持其他系列的时间表,本次版本仍停留在可以直接试用 System One 系列的范围内。