nvidia/flare-local-inference

엔비디아 그래픽 장치에서 모델을 직접 구동하는 로컬 추론 서버 저장소로, 파이썬 준비 단계와 Rust 서빙 런타임이 분리된 구조다.

스타

★ 139

포크

17

언어

Python

라이선스

Apache-2.0