defai-digital/ax-engine

defai-digital/ax-engine은 Apple Silicon에서 여러 언어 모델을 제공하는 실행 환경으로, 최신 릴리스는 v7.8.0이다.

GitHub 설명: One Mac process. Many models. Real speed. Multi-model LLM serving with prefix reuse, MTP acceleration, and OpenAI APIs — built for Apple Silicon, measured against mlx-lm and llama.cpp.

스타

★ 32

포크

2

언어

Rust

라이선스

Apache-2.0

최신 릴리스

v7.8.0