sgyaqing/verdict

Verdict は v0.3.0 で、OneJev1.6 マルチモーダル系、CUDA グラフによるテキスト・メディアデコード、リクエスト処理ルールの変更をまとめて追加した。

GitHub の説明: A high-performance serving engine for System One decision models.

スター

★ 13

フォーク

0

言語

Rust

ライセンス

Apache-2.0