nvidia/megatron-lm

nvidia/megatron-lm은 GPU 여러 대에 걸친 트랜스포머 학습용 병렬화 구성 요소와 사전 구성 학습 스크립트를 공개하는 저장소이며, 최신 릴리스는 core_v0.19.2다.

GitHub 설명: Ongoing research training transformer models at scale

스타

★ 18.2K

포크

4.6K

언어

Python

라이선스

NOASSERTION

최신 릴리스

core_v0.19.2