defai-digital/ax-engine

defai-digital/ax-engine は Apple Silicon 上で複数の言語モデルを提供する実行環境で、最新リリースは v7.8.0 である。

GitHub の説明: One Mac process. Many models. Real speed. Multi-model LLM serving with prefix reuse, MTP acceleration, and OpenAI APIs — built for Apple Silicon, measured against mlx-lm and llama.cpp.

スター

★ 32

フォーク

2

言語

Rust

ライセンス

Apache-2.0

最新リリース

v7.8.0