raullenchai/rapid-mlx

raullenchai/rapid-mlx 1.0.2 は、動画生成とその中断、サーバーは維持したままモデルのみアンロードするアイドル解放、Hugging Face リンクによるモデル追加を含むデスクトップアプリの変更である。

GitHub の説明: Rapid-MLX is an open-source (Apache 2.0) OpenAI- and Anthropic-compatible LLM inference server for Apple Silicon, built on MLX, focused on reliable tool calling for coding agents. Up to 4× faster than Apple's MLX (mlx-lm) on the same weights.

スター

★ 4K

フォーク

432

言語

Python

ライセンス

NOASSERTION

最新リリース

v0.16.2