Devotd Github

pushkinist/rmlx

pushkinist/rmlx가 쓰이지 않는 개발 스크립트를 지우고 계열별 스크립트를 하나의 도구로 합쳤으며, mlx-c 0.8 빌드 대응을 함께 추가했다.

GitHub 설명: Native Rust, single-binary MLX inference server for Apple Silicon. OpenAI/Anthropic-compatible LLM serving — text, vision, audio, embeddings — with the widest weight×KV quantization matrix of any MLX server. No Python, no GGUF.

GitHub에서 보기 ↗
스타
★ 16
포크
5
언어
Rust
라이선스
Apache-2.0
최신 릴리스
v0.4.3

게시물

1