jay7828/dooms

jay7828/dooms는 Apple Silicon에서 Metal과 Core ML로 언어·음성·시각 모델을 실행하는 C++ 추론 엔진이며, 제공된 자료에서 최신 릴리스는 v0.6.1이다.

GitHub 설명: Fast inference engine for Apple Silicon: 4-bit LLMs at 256 tok/s (MLX: 224), Whisper, Kokoro TTS. Metal + Core ML, Python/C++.

스타

★ 1

포크

0

언어

C++

라이선스

Apache-2.0

최신 릴리스

v0.6.1