musicurgy/delta-inference-engine은 Windows에서 NVIDIA GPU 한 장으로 DeepSeek-V4.1-Flash를 로컬 실행하고 OpenAI 호환 API를 제공한다고 README가 설명하는 C++ 저장소다. FACTS에 기록된 최신 릴리스는 0.92다. 다만 0.92에서 바뀐 구체적인 항목은 주어지지 않아 변경점으로 단정할 수 없다. 저장소에는 CUDA·SYCL·HIP 코드와 모델 실행 도구, 포맷 변환기, 검증 코드가 공개돼 있다.
README에 따르면 이 포트는 Xolotl과 Strata를 기반으로 한다. 552B 파라미터 모델의 전문가 단위를 2비트로 메모리에 올리고, 메모리가 부족하면 필요한 단위를 저장장치에서 읽는 방식이다. README는 최대 1M 토큰 문맥도 내세운다. 설치 배치 파일은 엔진을 내려받거나 빌드하고 모델 파일을 준비한다. 라이선스는 MIT다.
다만 README의 성능 결과는 특정 RTX 3090 장비에서 측정한 값이며 독립 검증된 결과는 아니다. 단일 GPU 실행 주장과 제시된 문맥 길이만으로 다른 PC의 메모리 요구량이나 처리 속도를 판단하기는 어렵다. 따라서 이 저장소는 Windows용 실행 경로를 보여주지만, 범용 성능의 근거로 삼기에는 공개된 검증이 제한적이다.