Devotd Github
新着推論・サービング

raullenchai/rapid-mlx 1.0.2 — 動画生成の中断とアイドル時のモデル解放を追加

raullenchai/rapid-mlx 1.0.2 は、動画生成とその中断、サーバーは維持したままモデルのみアンロードするアイドル解放、Hugging Face リンクによるモデル追加を含むデスクトップアプリの変更である。

リポジトリ情報raullenchai/rapid-mlx ↗

raullenchai/rapid-mlx 1.0.2 は、動画生成とその中断、サーバーは維持したままモデルのみアンロードするアイドル解放、Hugging Face リンクによるモデル追加を含むデスクトップアプリの変更である。

GitHub の説明: Rapid-MLX is an open-source (Apache 2.0) OpenAI- and Anthropic-compatible LLM inference server for Apple Silicon, built on MLX, focused on reliable tool calling for coding agents. Up to 4× faster than Apple's MLX (mlx-lm) on the same weights.

スター
★ 4K
フォーク
432
言語
Python
ライセンス
NOASSERTION
最新リリース
v0.16.2
原文を見る ↗GitHub で見る ↗

raullenchai/rapid-mlx が 1.0.2 をリリースした。2026 年 11 月 6 日のコミット f1aa011 はバージョンを 1.0.1 から 1.0.2 に上げただけの変更で、内容は CHANGELOG と docs/release-notes/v1.0.2.md にまとめられている。リポジトリの説明では、このリポジトリは Apple Silicon で動作する Apache-2.0 オープンソースの推論サーバーであり、OpenAI・Anthropic 互換 API を提供し、コーディングエージェント向けのツール呼び出し(tool calling)を扱うと説明している。

今回のバージョンにおける変更のほとんどはデスクトップアプリ側である。動画生成に音声と参照(first/last-frame, reference)の制御が加わり、対象モデルは MiniMax H3 と Pika H3 Flex と記載されている。生成中の動画ジョブは中断できるようになった。動画・音声の参照をデコードするツールがアプリに同梱されており、別途インストールは不要だという説明が付いている。アイドル状態のチャットモデルのみをアンロードし、サーバーは稼働し続ける方式も追加された。5 分刻みの選択肢が生じ、サイドバーにはアンロード中と再読み込み中の状態が表示される。同時UsereIncluded的是:新規インストール時に LFM2.5 2.6B(1.6 GB)で開始する高速な初回起動、Hugging Face リンクを貼り付けて追加するモデル追加、簡体字中国語と VoiceOver のアクセシビリティ強化、チャットモデル選択リストの整理。コミット統計は 110 行(101 行追加、9 行削除)で、Info.plist のバージョン表記は 1.0.1 から 1.0.2 に、ビルドは 195 から 196 に変わった。

比較の対象はデスクトップアプリのリリース版である。今回のコミットが変更したファイルは CHANGELOG、Info.plist、docs/release-notes/v1.0.2.md、pyproject.toml の 4 つで、コードではなく記録とバージョン表記の変更である。動画生成の中断はキャンセルに対応したサーバーが必要で動作し、アイドル解放は旧ランタイムおよび音声モデルでは依然としてサーバーを停止する。リポジトリの説明にある mlx-lm 比で最大 4 倍の速度やコミュニティのベンチマーク結果は、このコミットでは再現されておらず、数値も示されていない。1.0.2 が実際に何を改善したかは、デスクトップアプリを直接確認するまで判断は早い。