qualcomm/geniex

qualcomm/geniex 中的 GenieX 是一个生成式 AI 推理运行时，可在 Snapdragon 设备上本地运行 LLM 和 VLM。

GitHub 项目说明: Run frontier LLMs and VLMs locally on Qualcomm devices across NPU, GPU, and CPU with a few lines of code

星标

★ 8.4K

复刻

1.1K

语言

Go

许可证

BSD-3-Clause

最新版本

v0.9.3