sgyaqing/verdict

Verdict가 v0.3.0에서 OneJev1.6 멀티모달 계열, CUDA 그래프 기반 텍스트·미디어 디코딩, 요청 처리 규칙 변경을 함께 추가했다.

GitHub 설명: A high-performance serving engine for System One decision models.

스타

★ 13

포크

0

언어

Rust

라이선스

Apache-2.0