lightning-ai/litgpt は、20 種類以上の高性能 LLM を大規模に事前学習(pretraining)・微調整(finetuning)・デプロイするためのレシピを提供する Python プロジェクトだ。学習に留まらず推論の実行まで扱っており、最新リリースは v0.5.13 である。ただし、このリリースで何が変更されたかは、示された記録には含まれていない。
事前学習はモデルに一般的な知識を注入する段階、微調整は特定のタスクに合わせて続けて学習する段階で、このリポジトリは二つの段階とデプロイをひとまとめにしている。各モデルは共通の抽象化層を使わず、個別にゼロから実装され、モデルごとの実行コマンドと学習ワークフロー(実行手順)を併せて提供する。full・LoRA・QLoRA などの学習経路が整理されているので微調整方法を選べ、Flash attention、FSDP、Adapter、量子化にも対応する。高速な推論とメモリが少ない GPU での実行も扱っており、ライセンスは Apache-2.0 で企業での利用も可能だ。スターは 13720 件である。
ただし、性能の数値もベンチマークも記録にはなく、どの水準の品質と処理速度が得られるかは確認できない。リポジトリは 2023 年 5 月 4 日に作成され、評価スコアはモメンタムのみ 10 点満点中 1.6 で、新鮮度・技術・品質スコアは示されていない。今すぐ導入するのではなく、学習パイプラインのレシピの参考として置っておくほうが現実的だ。