penta2himajin/qwisp

Apple Silicon용 로컬 MoE 추론 서버 qwisp가 스트리밍 응답의 마지막 청크에 usage 정보를 담아 보내도록 변경됐다.

GitHub 설명: Fast, optionally-lossless local inference for Qwen3.6-35B-A3B (MoE) on Apple Silicon — OpenAI-compatible server + CLI over a raw-Metal decode engine (Seedless) on MLX.

스타

★ 16

포크

1

언어

Swift

라이선스

Apache-2.0

최신 릴리스

v0.3.11