mudler/localai는 다양한 하드웨어에서 LLM·비전·음성·이미지·영상 모델을 실행하고 API로 제공하는 오픈소스 AI 엔진이다. 공개된 최신 릴리스는 v4.11.0이다. 제공된 기록에는 이 릴리스에서 추가되거나 바뀐 항목이 적혀 있지 않아, 버전 번호 외의 변경 내용은 확인되지 않는다.
이 프로젝트는 모델을 자체 인프라에서 운영하려는 사용자를 위한 자체 호스팅 엔진이다. README에 따르면 GPU 없이 모델을 실행할 수 있고, 요청에 필요한 백엔드만 불러온다. 여러 백엔드에서 OpenAI·Anthropic·ElevenLabs API와 호환되는 인터페이스를 제공한다. 기기·엣지 배포와 백엔드의 분산·P2P 실행도 서버 기능으로 소개한다. 내장 AI 에이전트는 도구 사용, RAG(검색 증강 생성), MCP와 스킬을 지원하며, API 키 인증·사용자 할당량·역할 기반 접근 기능도 갖췄다. 프로젝트는 데이터가 사용자 인프라 밖으로 나가지 않도록 설계됐다고 설명한다.
저장소의 언어는 Go이고 라이선스는 MIT다. 다만 제공된 자료에는 v4.11.0의 변경 목록이나 성능 측정이 없다. 따라서 이 버전에서 무엇이 개선됐는지, 또는 각 하드웨어에서 어느 정도 성능을 내는지는 이 기록만으로 판단할 수 없다. 확인 가능한 범위는 여러 모델 종류와 백엔드를 자체 운영 환경에서 API로 제공하도록 설계된 엔진이라는 점까지다.