hiyouga/llamafactory의 최신 릴리스는 v0.9.5다. 이 저장소는 100개 이상의 대규모 언어 모델(LLM)과 비전-언어 모델(VLM)을 한곳에서 미세조정하는 Python 도구다. 코드 없이 명령줄 인터페이스(CLI)와 웹 사용자 화면으로 미세조정 절차를 구성한다. 다만 v0.9.5에서 바뀐 항목은 이 기록에 정리돼 있지 않다.
미세조정(fine-tuning)은 미리 학습한 모델을 특정 데이터에 맞춰 다시 학습하는 작업이다. 이 프로젝트는 전체 가중치를 학습하는 full 학습, 추가 가중치만 학습하는 LoRA와 그 양자화 버전인 QLoRA, 정렬 학습을 CLI와 GUI로 함께 구성한다. 모델과 학습 방식을 한 도구에서 다루는 범위가 이 저장소의 요지다. README는 코드를 작성하지 않고 명령줄과 웹 화면으로 100개 이상의 LLM을 미세조정할 수 있다고 설명한다. 라이선스는 Apache-2.0이고 저장소 설명에는 ACL 2024가 함께 표기돼 있다. 별 수는 75627개고, 2023년 5월 28일 만들어졌다.
다만 학습 속도나 안정성을 보여주는 자체 벤치마크가 이 기록에는 없다. 성능 점수와 품질 점수도 채워지지 않고 모멘텀 점수만 10점 만점 기준 5.5로 남아 있다. v0.9.5의 성능이나 품질을 제공된 정보만으로 가늠하기는 어렵다. 판단의 근거는 릴리스 노트와 실제 학습 결과를 따로 확인하는 쪽에 두는 편이 낫다.