github.devotd.
새 소식RAG/검색

minishlab/model2vec v0.10.0 — 정적 임베딩을 위한 모델 증류 도구

minishlab/model2vec은 사전학습된 문장 임베딩 모델(Sentence Transformer)을 작고 빠른 정적 임베딩 모델로 변환하는 Python 도구이며, 제공된 기록의 최신 릴리스는 v0.10.0이다.

저장소 정보minishlab/model2vec ↗

minishlab/model2vec은 사전학습된 문장 임베딩 모델(Sentence Transformer)을 작고 빠른 정적 임베딩 모델로 변환하는 Python 도구이며, 제공된 기록의 최신 릴리스는 v0.10.0이다.

GitHub 설명: Fast State-of-the-Art Static Embeddings

스타
★ 2.3K
포크
128
언어
Python
라이선스
MIT
최신 릴리스
v0.10.0
원문 보기 ↗GitHub에서 보기 ↗

minishlab/model2vec은 사전학습된 문장 임베딩 모델(Sentence Transformer)을 작고 빠른 정적 임베딩 모델로 변환하는 Python 도구다. 임베딩은 텍스트를 숫자 벡터로 바꿔 검색이나 분류에 쓰는 표현이고, 정적 임베딩은 쓸 때마다 신경망을 계산하지 않고 미리 만들어 둔 벡터를 찾는 방식이다. 제공된 기록의 최신 릴리스는 v0.10.0인데 변경 항목이 없어 이 버전이 무엇을 손봤는지는 확인되지 않는다.

핵심은 큰 모델의 지식을 훨씬 작은 표로 옮기는 증류(distillation)다. README는 모델 크기를 최대 50배 줄이고 CPU 추론을 최대 500배 빠르게 할 수 있다고 밝힌다. 사전학습 모델을 불러오거나 데이터셋 없이 증류할 수 있고, 분류·유사도·회귀·쌍 유사도 작업에는 미세조정(fine-tuning)할 수 있다. 함께 제공되는 Potion은 내려받아 바로 쓸 수 있는 임베딩 모델 모음이다. 저장소는 2024년 7월 18일 만들어졌고 라이선스는 MIT이며 별은 2250개다.

다만 50배와 500배는 README가 제시한 최대치일 뿐 따로 측정한 비교 자료는 주어지지 않았다. README는 성능이 소폭 저하될 수 있다고 덧붙인다. 평가 기록에는 10점 만점 기준 모멘텀 점수 2.1만 남아 있고 신선도·기술·완성도 점수는 비어 있다. 임베딩을 가볍게 고르는 선택지로는 볼 수 있지만 성능 저하가 어느 수준인지는 이 기록만으로 가늠하기 어렵다.