Devotd Github
새 소식추론/서빙

miaai-lab/deepseek-v4.1-flash-1017-2x-dgx-sparks — DGX Spark 두 대용 배포 구성

DGX Spark 두 대에서 DeepSeek-V4.1-Flash-1017 EXL3를 TensorFold로 제공하는 구성과 검증 범위를 소개한다.

저장소 정보miaai-lab/deepseek-v4.1-flash-1017-2x-dgx-sparks ↗

DGX Spark 두 대에서 DeepSeek-V4.1-Flash-1017 EXL3를 TensorFold로 제공하는 구성과 검증 범위를 소개한다.

GitHub 설명: DeepSeek-V4.1-Flash-1017 EXL3 on 2x DGX Sparks with TensorFold

스타
★ 280
포크
44
언어
Python
라이선스
Apache-2.0
원문 보기 ↗GitHub에서 보기 ↗

miaai-lab/deepseek-v4.1-flash-1017-2x-dgx-sparks는 두 대의 DGX Spark에서 DeepSeek-V4.1-Flash-1017 EXL3를 TensorFold 기반으로 제공하는 배포 레시피다. 저장소는 모델 체크포인트와 설정값, 준비·실행 스크립트를 안내한다. 별도의 최신 릴리스 버전은 FACTS에 기록돼 있지 않다.

README는 OpenAI 호환 API와 이미지 입력, 도구 호출, 사고 모드 전환, DSpark 추측 디코딩을 설명한다. 추측 디코딩은 후보 토큰을 먼저 생성한 뒤 검증하는 방식이다. 컨텍스트 창은 1,048,576 토큰 설정까지 다루지만, 실제 측정에는 524,288 토큰 설정이 포함된다. 전체 창 설정에서는 10만 토큰 입력을 실행했다고 기록한다. 설정 검사와 빌드 결과, 여러 도구와 조건에 따른 성능 측정도 구분해 제시한다.

다만 이미지 입력과 도구 호출은 해당 장비 쌍에서 검증하지 않았다고 밝힌다. 일부 계산 계획도 실제 39개 조각 모델에서 다시 실행되지 않았다. 성능 수치는 프로젝트의 측정 결과이며 독립 재현 근거가 제시된 것은 아니다. 따라서 문서에 적힌 기능과 설정을 모두 검증된 성능으로 받아들이기보다는, 측정 조건과 검증 범위를 함께 살펴야 한다.