lmstudio-ai/mlx-engine は Mac 用 LM Studio が使っているオープンソースの MLX 推論エンジンである。Apple の MLX(Mac で機械学習モデルを動かすライブラリ)の上で動作し、Python で書かれ、MIT ライセンスに従う。Mac 用 LM Studio を対象としたプロジェクトであり、GitHub スターは 1190 個。リポジトリは 2024 年 10 月 7 日に作成された。
このエンジンは mlx-lm、mlx-vlm、Outlines を組み合わせている。mlx-lm と mlx-vlm がテキスト生成と視覚モデル(画像を入力として受け取り、その内容を判断するモデル)の推論を担当し、Outlines を使う構造化出力コンポーネントは、自由な文章ではなく指定された形式のデータをモデルに出させる。固定されたスキーマに従う必要がある処理に要するのがこの部分である。単独で動くデモがあり、LM Studio なしでエンジンだけを実行して試すことができる。そのデモでは推測デコード(speculative decoding、候補を先に作り、モデルが検証して確定する方式)も確認できる。Mac 用 LM Studio にはこのエンジンがプリインストールされている。テキスト生成、視覚推論、構造化出力をそれぞれ別のライブラリに委ねている構成であり、LM Studio が使うエンジンの内部が公開されている点に意味がある。
ただし残されている記録は多くない。研究記録のモメンタムスコアは 1.7 点と低く、新しさ・技術・品質スコアは与えられていない。性能を比べたベンチマークも整理されたリリースも存在しないため、このエンジンがどのモデルでどれだけ速いかは分からない。他のエンジンと性能を比較できる数値もまだない。性能比較の根拠とするには早い段階である。Mac で LM Studio を使う人にとっては、推論エンジンがどのような構成で組まれているかを知る参考にこのリポジトリを読む価値はあるが、導入を決める根拠にはならない。今後バージョンが公開されるときに比較資料も併せて出るかを見るのが次のポイントである。