nvidia/megatron-lm

nvidia/megatron-lm 是一个公开用于跨多块 GPU 进行 Transformer 训练的并行化组件与预置训练脚本的仓库，其最新版本为 core_v0.19.2。

GitHub 项目说明: Ongoing research training transformer models at scale

星标

★ 18.2K

复刻

4.6K

语言

Python

许可证

NOASSERTION

最新版本

core_v0.19.2