Devotd Github

pushkinist/rmlx

pushkinist/rmlx 删除了无用的开发脚本,将同系列脚本合并为一个工具,并同时加入了 mlx-c 0.8 的构建支持。

GitHub 项目说明: Native Rust, single-binary MLX inference server for Apple Silicon. OpenAI/Anthropic-compatible LLM serving — text, vision, audio, embeddings — with the widest weight×KV quantization matrix of any MLX server. No Python, no GGUF.

在 GitHub 查看 ↗
星标
★ 16
复刻
5
语言
Rust
许可证
Apache-2.0
最新版本
v0.4.3

文章

1