mmm1712/local_ai_esp32 は、ゼロから学習した言語モデルを ESP32-S3 上でオフライン実行するリポジトリだ。最新リリースは v0.1.0-model-assets である。提供された FACTS にはこのリリースで何が変更されたかを示す具体的な記述がないため、変更点は確認できない。README はこのモデルを PocketGPT と呼んでいる。XIAO ではタッチスクリーンキーボード、DevKit では USB を使って対話できる。
このプロジェクトの中心は、インターネットサービスに接続せずにマイクロコントローラ上で小規模な言語モデルを動かすことにある。提供される重みとトークナイザを使うため、自分で学習したり API キーを用意したりする必要はない。リポジトリの実装言語は C で、ライセンスは MIT だ。画面と USB という 2 つの入力方式を提供するが、この違いはモデルの能力を変えない。このプロジェクトはモデルの実行だけでなく、デバイス上で対話する手順も示している。
README によると、モデルは短い挨拶や基本的な会話に応答する。ただし、回答が誤rika规则的(repository) - 繰り返したりする、質問と無関係だったりする場合もある。したがって、オフライン実行は確認できる特徴だが、応答の正確性や一貫性まで保証するものではありません。Gemini や Ollama を使う別のファームウェアも存在するが、その経路は PocketGPT の重みを使わない。これを PocketGPT モデルの応答例と混同しないことが重要です。