github.devotd.
新着LLMインフラ

lightning-ai/pytorch-lightning 2.6.6 — 学習ループと分散実行の構造

PyTorch モデルの学習を構造化する lightning-ai/pytorch-lightning 2.6.6 と、学習ループおよび分散実行の構成を扱う。

リポジトリ情報lightning-ai/pytorch-lightning ↗

PyTorch モデルの学習を構造化する lightning-ai/pytorch-lightning 2.6.6 と、学習ループおよび分散実行の構成を扱う。

GitHub の説明: Pretrain, finetune ANY AI model of ANY size on 1 or 10,000+ GPUs with zero code changes.

スター
★ 31.4K
フォーク
3.8K
言語
Python
ライセンス
Apache-2.0
最新リリース
2.6.6
原文を見る ↗GitHub で見る ↗

lightning-ai/pytorch-lightning は、PyTorch モデルの事前学習とファインチューニングのための深層学習フレームワークである。繰り返しのエンジニアリングコードは自動化する一方、モデルのロジックは利用者が直接制御できるようになり、CPU 環境からマルチノード GPU まで学習実行を拡張できる。GitHub リリースベースの最新バージョンは 2.6.6 である。

このプロジェクトの目的は、PyTorch の学習ループと分散実行を構造化することである。リポジトリの説明では、コード変更なしで 1 個の GPU から 10,000 個以上の GPU まで、あらゆる規模のモデルを事前学習およびファインチューニングできるとしている。

中核となるパッケージは 2 つある。規模に合わせた学習とデプロイを担う PyTorch Lightning と、より細かい制御を担う Lightning Fabric である。両パッケージは分散戦略、チェックポイント、精度設定、反復的な学習実行を管理する。Python で実装され、ライセンスは Apache-2.0 である。リポジトリは 2019 年 3 月に作成され、GitHub スターは 31423 と記録されている。

ただし、今回の記録にはリリースノートがないため、2.6.6 で変更された点は確認できない。性能ベンチマークや他のフレームワークとの比較資料も提示されていない。研究記録が与えたモメンタム指標は 10 点満点で 2.6 と低い。そのため新機能が追加されたバージョンというより、学習ループと分散実行の構造を調べる対象に/Battle近い。