yinsongxu/llm2jev 是一个 Python 项目,可将已有语言模型转换为 Jev 方式的结构化判定模型。据仓库说明,它无需训练或微调即可使用。最新版本 v0.2.0 新增了处理图像边界框的 Box 判定。包括既有 Choice、Score、Noul 在内的四类查询可以在一个请求中混合使用。
它不逐个生成答案 token,而是在处理输入的 prefill 阶段只读取 yes/no logits,从而得到判定概率。因此其核心在于无需 token 级解码即可用于分类、评估与行为选择。它支持文本与图像输入,并提供 SGLang、Transformers、MLX 后端。客户端继承自 OpenAI Python SDK,可在同一服务与模型上同时处理聊天与判定。许可证为 Apache-2.0。
README 使用公开的 JevBench 231 道题评估了准确率与延迟,并声称 P50 延迟不到 Jev 官方结果的十分之一。但该对比是仓库自身的评测,FACTS 中并未给出外部复现结果。因此,与其认为其性能优势已获独立确认,不如把它看作一个展示 prefill 判定思路并新增 Box 的项目。