github.devotd.
새 소식LLM 인프라

lightning-ai/litgpt v0.5.13 — 20종 이상 LLM 사전학습·미세조정 레시피

lightning-ai/litgpt는 20종 이상의 고성능 LLM을 사전 학습·미세조정·배포하기 위한 레시피를 제공하는 Python 프로젝트로, 최신 릴리스는 v0.5.13이다.

저장소 정보lightning-ai/litgpt ↗

lightning-ai/litgpt는 20종 이상의 고성능 LLM을 사전 학습·미세조정·배포하기 위한 레시피를 제공하는 Python 프로젝트로, 최신 릴리스는 v0.5.13이다.

GitHub 설명: 20+ high-performance LLMs with recipes to pretrain, finetune and deploy at scale.

스타
★ 13.7K
포크
1.5K
언어
Python
라이선스
Apache-2.0
최신 릴리스
v0.5.13
원문 보기 ↗GitHub에서 보기 ↗

lightning-ai/litgpt는 20종 이상의 고성능 LLM을 대규모로 사전 학습(pretraining)·미세조정(finetuning)·배포하기 위한 레시피를 제공하는 Python 프로젝트다. 학습에 머물지 않고 추론 실행까지 함께 다루며, 최신 릴리스는 v0.5.13이다. 다만 이 릴리스에서 무엇이 바뀌었는지는 주어진 기록에 담겨 있지 않다.

사전 학습은 모델에 일반 지식을 심는 단계, 미세조정은 특정 과업에 맞춰 이어서 학습하는 단계로, 이 저장소는 두 단계와 배포를 한곳에 묶었다. 각 모델을 공통 추상화 계층 없이 처음부터 따로 구현하고, 모델별 실행 명령과 학습 workflow(실행 절차)를 함께 제공한다. full·LoRA·QLoRA 같은 학습 경로가 정리돼 있어 미세조정 방식을 고를 수 있고, Flash attention, FSDP, Adapter와 양자화도 지원한다. 빠른 추론과 메모리가 적은 GPU에서의 실행을 다루며, 라이선스는 Apache-2.0로 기업에서도 사용할 수 있다. 별은 13720개다.

다만 성능 수치나 벤치마크는 기록에 없어 어느 수준의 품질과 처리 속도가 나오는지는 확인할 수 없다. 저장소는 2023년 5월 4일 만들어졌고, 평가 점수는 모멘텀만 10점 만점에 1.6이며 신선성·기술·품질 점수는 주어지지 않았다. 지금 당장 도입하기보다 학습 파이프라인의 레시피 참고용으로 두는 쪽이 현실적이다.