pushkinist/rmlx

pushkinist/rmlx は使われていない開発スクリプトを削除し、同系統のスクリプトを 1 つのツールにまとめ、あわせて mlx-c 0.8 のビルド対応を追加した。

GitHub の説明: Native Rust, single-binary MLX inference server for Apple Silicon. OpenAI/Anthropic-compatible LLM serving — text, vision, audio, embeddings — with the widest weight×KV quantization matrix of any MLX server. No Python, no GGUF.

スター

★ 16

フォーク

5

言語

Rust

ライセンス

Apache-2.0

最新リリース

v0.4.3