Devotd Github
새 소식추론/서빙

maralski/gemma-embed-swift v0.4.1 — Apple Silicon용 임베딩 패키지

maralski/gemma-embed-swift는 자체 Metal 커널로 Apple Silicon에서 EmbeddingGemma 2 임베딩을 계산하는 Swift 패키지다.

저장소 정보maralski/gemma-embed-swift ↗

maralski/gemma-embed-swift는 자체 Metal 커널로 Apple Silicon에서 EmbeddingGemma 2 임베딩을 계산하는 Swift 패키지다.

GitHub 설명: EmbeddingGemma 2 text, image and audio embeddings in-process optimised for Apple Silicon: a dependency-free Swift package with its own Metal kernels

스타
★ 4
포크
0
언어
Swift
라이선스
Apache-2.0
최신 릴리스
v0.4.1
원문 보기 ↗GitHub에서 보기 ↗

maralski/gemma-embed-swift의 최신 릴리스는 v0.4.1이다. 이 Swift 패키지는 EmbeddingGemma 2의 텍스트·이미지·오디오 인코더를 Apple Silicon에서 실행한다. 자체 Metal 커널을 사용하며, 임베딩 계산은 앱 프로세스 안에서 이뤄진다. v0.4.1에서 바뀐 내용은 제공된 자료에 없어 구체적으로 확인할 수 없다.

이 패키지는 외부 머신러닝 프레임워크나 llama.cpp 없이 모델을 실행하도록 구성됐다. Apple SDK 외 의존성은 없고, 모델 가중치는 별도로 내려받아야 한다. README에 따르면 공식 GGUF 가중치로 768차원 임베딩을 만들 수 있으며, 선택 기능을 켜면 이미지와 오디오도 같은 벡터 공간에 임베딩한다. 텍스트·이미지·오디오를 섞은 입력도 처리하며, 출력 차원을 줄이는 기능과 최대 8192 토큰 입력을 지원한다고 설명한다. 라이선스는 Apache-2.0이다.

README에는 llama.cpp와의 코사인 유사도 비교표가 있지만, 제공된 자료에는 표의 수치가 없어 비교 결과의 크기를 판단할 수 없다. 따라서 확인되는 강점은 Apple Silicon에서 외부 의존성 없이 여러 유형의 입력을 임베딩하는 구현 범위이며, 성능 우위까지 입증된 것은 아니다.