google-ai-edge/litert-lm

google-ai-edge/litert-lm v0.18.0 は Google のオープンソース推論フレームワークで、LiteRT の上で LLM をエッジデバイスおよび複数のプラットフォームで実行 Stuff する。

GitHub の説明: google-ai-edge/litert-lm

スター

★ 6.7K

フォーク

0

言語

C++

ライセンス

—