zevin17/deepinfer-mac은 Apple Silicon에서 MLX로 로컬 모델을 실행하는 Python 추론 프레임워크다. DeepInfer의 스케줄링 구성요소를 옮긴 커뮤니티 포트다. 저장소 설명은 로컬 추론과 API, 재현 가능한 벤치마크를 제공한다고 밝힌다. 공개 릴리스 버전은 없다.
명령줄과 Python 인터페이스, 호환 대화 API, 브라우저 화면은 같은 실행기를 사용한다. 프로젝트는 초안·검증 일정으로 추론을 조정하는 DeepInfer 방식을 MLX 실행에 적용한다. 초안 수용률은 먼저 만든 답안을 검증 단계가 그대로 받아들이는 비율이다. 이 방식은 초안 수용률과 전체 비용을 함께 살피며, 문맥 재사용과 상태 저장도 로컬 실행 흐름에서 다룬다. 문서는 기본 경로와 적응형 경로를 구분하고, 모델과 캐시 기능에 따른 실행 및 상태 재사용을 설명한다. 라이선스는 Apache-2.0이다.
README에는 Qwen과 SmolLM2의 경로별 검증 범위가 제시되어 있으며, 확인이 필요한 조합도 남아 있다. 성능 기록은 특정 기기와 실행 조건에 한정되어 있고, 독립 재현 여부는 제시되지 않았다. 따라서 재현 가능한 벤치마크를 표방하더라도, 공개된 성능 수치만으로 기기 간 우열이나 일반적인 성능을 판단하기는 어렵다.