nvidia/megatron-lm

nvidia/megatron-lm は、複数 GPU にまたがる Transformer 学習向けの並列化コンポーネントとプリセット学習スクリプトを公開しているリポジトリで、最新リリースは core_v0.19.2 だ。

GitHub の説明: Ongoing research training transformer models at scale

スター

★ 18.2K

フォーク

4.6K

言語

Python

ライセンス

NOASSERTION

最新リリース

core_v0.19.2