mudler/localai は、LLM・ビジョン・音声・画像・動画モデルを多様なハードウェア上で実行し、API として提供するオープンソース AI エンジンである。最新の公開リリースは v4.11.0 である。提供された記録には、このリリースで追加または変更された項目が記載されていないため、バージョン番号以外の変更内容は確認できない。
このプロジェクトは、自分のインフラでモデルを運用したいユーザー向けのセルフホスト型エンジンである。README によれば、GPU なしでもモデルを実行でき、リクエストに必要なバックエンドのみを読み込む。複数のバックエンドで OpenAI・Anthropic・ElevenLabs API と互換のインターフェースを提供する。デバイス・エッジでの展開や、バックエンドの分散・P2P 実行もサーバー機能として紹介されている。組み込みの AI エージェントはツール利用、RAG(検索拡張生成)、MCP、スキルに対応し、API キー認証・ユーザー単位のクォータ・ロールベースのアクセス制御も備える。プロジェクトは、データがユーザーのインフラの外部に出ないように設計されたと説明している。
リポジトリの言語は Go、ライセンスは MIT である。ただし、提供された資料には v4.11.0 の変更一覧も性能測定データもない。そのため、このバージョンで何が改善されたのか、あるいは各ハードウェアでどの程度の性能が出るのかは、この記録だけでは判断できない。確認できるのは、複数種類のモデルとバックエンドを自分で運用する環境で API として提供するよう設計されたエンジンであるという点までである。