sgyaqing/verdict가 v0.3.0을 2026-10-26 커밋 ec3452b으로 내놨다. Verdict는 System One 결정 모델을 위한 고성능 서빙 엔진이고, 이번 버전이 처음으로 멀티모달을 다룬다. 새 계열 verdict-models/OneJev1.6는 0.8b·4b·9b·27b 네 크기를 갖는다. 이미지와 영상은 TypeSafe의 assets 규격으로 /v1/systemone에서, 이미지는 OpenAI 호환 input_image로 /v1/decisions에서 처리한다. 가중치는 Hugging Face와 ModelScope에 함께 올라가 있고, 변경 기록은 답변이 공식 모델과 대조 검증됐다고 적는다.
모델을 고르는 방식도 바뀌었다. 한 저장소에 여러 크기를 두고 :variant 태그로 크기를 지정하며, 패키지는 매니페스트만으로 구성할 수 있다. 첫 서빙 때 공식 저장소 전체를 가중치와 토크나이저까지 스냅숏으로 저장하고 빠진 항목이 없는지 검사한다. 추론 경로에서는 텍스트와 미디어 디코딩을 CUDA 그래프에서 실행하고, 접두사를 공유하는 미디어는 fork 그래프가 처리한다. torch.compile 캐시는 재시작 뒤에도 남는다.
요청 처리 규칙도 손봤다. --max-body-mb가 기본 64 MiB로 추가됐고, --max-input-tokens를 지정하지 않으면 모델이 선언한 max_len에서 잘린다. 익스큐터 프로세스가 죽었을 때 서버는 500 응답을 반복하지 않고 0이 아닌 종료 코드로 멈춘다. 배포는 Docker Hub의 sgyaqing/verdict:0.3.0-cpu와 0.3.0-cuda(linux/amd64) 두 이미지다. 성능은 README가 RTX 4090 기준 OneJev1.6-9b의 텍스트·이미지·영상 처리량과 P99 지연 그래프를 새로 붙였고, 모델 제작사 서버 대비 최대 66배 처리량이라고 밝힌다.
확인 가능한 범위는 좁다. 커밋 통계는 4104줄 추가와 2209줄 삭제이고, 가장 큰 변경은 executor/torch_exec.py(1334줄 추가)였다. Apache-2.0 라이선스와 NOTICE가 이미지 빌드에 함께 들어갔으며, NOTICE는 스케줄링 설계 참고로 vLLM, 배치 큐 설계 참고로 Text Embeddings Inference를, 그래프 러너는 qev(OmniJev)의 mm_engine.py에서 가져온 사실을 밝힌다. 멀티모달 계열은 OneJev1.6 하나뿐이고, 미디어 처리에 pillow 13.0.0과 torchvision 0.29.1이 필요하다. Dockerfile.base-media는 Qwen 비디오 프로세서가 VL 체크포인트의 텍스트 전용 서빙에서도 torchvision을 요구한다고 적은다. 외부 검증 수치와 다른 계열 지원 일정은 제시되지 않았으므로, 이번 버전은 System One 계열을 직접 다뤄 볼 수 있는 범위에 머물러 있다.