qualcomm/geniex

qualcomm/geniex의 GenieX는 Snapdragon 장치에서 LLM과 VLM을 로컬 실행하는 생성형 AI 추론 런타임이다.

GitHub 설명: Run frontier LLMs and VLMs locally on Qualcomm devices across NPU, GPU, and CPU with a few lines of code

스타

★ 8.4K

포크

1.1K

언어

Go

라이선스

BSD-3-Clause

최신 릴리스

v0.9.3