google-ai-edge/litert-lm

google-ai-edge/litert-lm v0.18.0은 LiteRT 위에서 LLM을 엣지 기기와 여러 플랫폼에 실행하도록 지원하는 Google's 오픈소스 추론 프레임워크다.

GitHub 설명: google-ai-edge/litert-lm

스타

★ 6.7K

포크

0

언어

C++

라이선스

—