github.devotd.
새 소식AI

deepseek-ai/deepseek-v3 v1.0.0 — 671B MoE 모델의 공식 공개 코드

DeepSeek-V3의 공식 공개 코드를 담은 저장소로, 총 671B 파라미터 중 토큰마다 37B가 활성화되는 MoE 모델의 구조와 가중치, 로컬 추론 구현을 제공한다.

저장소 정보deepseek-ai/deepseek-v3 ↗

DeepSeek-V3의 공식 공개 코드를 담은 저장소로, 총 671B 파라미터 중 토큰마다 37B가 활성화되는 MoE 모델의 구조와 가중치, 로컬 추론 구현을 제공한다.

스타
★ 104.5K
포크
16.7K
언어
Python
라이선스
MIT
최신 릴리스
v1.0.0
원문 보기 ↗GitHub에서 보기 ↗

deepseek-ai/deepseek-v3은 DeepSeek-V3의 공식 공개 코드를 담은 저장소다. 공개된 내용은 언어 모델 구조와 가중치, 로컬에서 추론을 실행하는 구현이다. 최신 릴리스 태그는 v1.0.0이고, 이 태그가 포함한 변경 사항은 릴리스 노트로 확인되지 않는다.

총 671B 파라미터 가운데 토큰마다 37B만 활성화되는 MoE(Mixture of Experts, 여러 전문가 모듈 중 일부만 골라 계산하는 방식) 언어 모델이다. README는 MLA(Multi-head Latent Attention, 잠재 차원으로 attention을 압축해 다루는 방식), DeepSeekMoE 구조, 14.8T 토큰 규모의 사전 학습과 후학습, DeepSeek-R1의 추론 능력을 증류한 방식을 설명한다. 모델 다운로드와 평가 절차, 공식 채팅 사이트와 OpenAI-Compatible API, 여러 오픈소스 프레임워크를 쓰는 로컬 실행 방법도 담고 있다. 라이선스는 MIT, 구현 언어는 Python이며 별 수는 104530, 저장소는 2024-12-26에 만들어졌다.

다만 평가 항목 중 10점 만점 기준 모멘텀 점수 4.4만 채워져 있고 신선함·기술·품질 점수는 주어지지 않는다. 성능 수치와 검증 결과도 주어진 기록에 없으므로 실제 추론 품질을 이 저장소만으로 판단하기 어렵다. 671B 규모에서 확인할 수 있는 것은 구조와 실행 방법까지이고, 추론 품질 판단은 별도의 검증이 필요하다.