Devotd Github
새 소식추론/서빙

ingeniousidiocy/ds4-v41-m3ultra — DeepSeek V4.1 Flash의 Metal 실행

antirez/ds4의 DwarfStar를 바탕으로 Apple Metal 최적화와 실행 설정을 제공하는 DeepSeek V4.1 Flash 저장소다.

저장소 정보ingeniousidiocy/ds4-v41-m3ultra ↗

antirez/ds4의 DwarfStar를 바탕으로 Apple Metal 최적화와 실행 설정을 제공하는 DeepSeek V4.1 Flash 저장소다.

GitHub 설명: DeepSeek V4.1 Flash on the Apple M3 Ultra: Metal decode and prefill kernels, DSpark speculative decoding, KV disk store. Built on antirez/ds4 (upstream base bd66c40).

스타
★ 10
포크
3
언어
C
라이선스
MIT
최신 릴리스
v41-video
원문 보기 ↗GitHub에서 보기 ↗

ingeniousidiocy/ds4-v41-m3ultra은 Apple Metal에서 DeepSeek V4.1 Flash를 실행하도록 최적화한 C 저장소다. antirez/ds4의 DwarfStar를 기반으로 Metal 디코드·프리필 커널, DSpark 추측 디코딩, KV 데이터를 디스크에 저장하는 기능을 더했다. 기반이 된 상류 코드는 bd66c40 커밋이다. 최신 릴리스 표기는 v41-video지만, 제공된 자료에는 해당 릴리스의 변경 내역이 없다.

이 저장소의 초점은 모델 실행과 이미지 입력 경로를 최적화하고, 각 최적화 항목을 비교할 수 있게 하는 데 있다. README는 최적화를 58개 묶음으로 나누고 각각 끌 수 있는 스위치를 제공한다고 설명한다. 정확성을 우선하는 실행 모드와 재현 절차, Metal 구현 설명 문서도 안내한다. README에 따르면 512GB M3 Ultra에서 8K 문맥 기준 처리 속도는 초당 41.4토큰이다. 라이선스는 MIT다.

다만 처리 속도는 README에 기재된 저장소 자체 측정 결과이며, 독립적으로 확인된 수치는 아니다. 제시된 값은 512GB M3 Ultra와 8K 문맥 조건에 한정된다. README는 다른 하드웨어 조건의 측정이 없고, 이후 변경으로 비교 영상의 수치가 현재 기본 설정과 다를 수 있다고 밝힌다. 따라서 이 결과는 해당 구성에 대한 참고값이지, 다른 환경의 성능을 보장하는 기준은 아니다.