mmm1712/local_ai_esp32는 처음부터 학습한 언어 모델을 ESP32-S3에서 오프라인으로 실행하는 저장소다. 최신 릴리스는 v0.1.0-model-assets다. 제공된 FACTS에는 이 릴리스에서 무엇이 바뀌었는지 구체적인 내용이 없어 변경 사항은 확인할 수 없다. README는 모델을 PocketGPT라고 부른다. XIAO에서는 터치스크린 키보드로, DevKit에서는 USB로 대화할 수 있다.
이 프로젝트의 초점은 인터넷 서비스에 연결하지 않고 소형 언어 모델을 마이크로컨트롤러에서 구동하는 데 있다. 제공되는 가중치와 토크나이저를 사용하므로 직접 학습하거나 API 키를 준비할 필요가 없다. 저장소의 구현 언어는 C이며 라이선스는 MIT다. 화면과 USB라는 두 입력 방식을 제공하지만, 이 차이가 모델의 능력을 바꾸는 것은 아니다. 이 프로젝트는 모델 실행뿐 아니라 기기에서 대화하는 경로도 함께 보여준다.
README에 따르면 모델은 짧은 인사말과 기본적인 대화에 응답한다. 다만 답변이 틀리거나 반복적이고, 질문과 관련이 없을 수도 있다. 따라서 오프라인 구동은 확인할 수 있는 특징이지만, 응답의 정확성이나 일관성까지 보장하는 것은 아니다. Gemini 또는 Ollama를 사용하는 별도 펌웨어도 있지만, 그 경로는 PocketGPT 가중치를 사용하지 않는다. 이를 PocketGPT 모델의 응답 사례로 혼동하지 않는 것이 중요하다.