Devotd Github
릴리스추론/서빙

justvugg/colibri v2.1.0 — GGUF와 실행 경로 확장

순수 C MoE 추론 엔진 justvugg/colibri가 v2.1.0에서 GGUF 실행과 CUDA·Vulkan 경로, 여러 모델 지원과 대화 화면을 확장했다.

저장소 정보justvugg/colibri ↗

순수 C MoE 추론 엔진 justvugg/colibri가 v2.1.0에서 GGUF 실행과 CUDA·Vulkan 경로, 여러 모델 지원과 대화 화면을 확장했다.

GitHub 설명: Run frontier MoE models on hardware you already own — pure C, zero deps, experts streamed from disk. Tiny engine, immense model. 🐦

스타
★ 45.4K
포크
5.2K
언어
C
라이선스
Apache-2.0
최신 릴리스
v2.1.0
원문 보기 ↗GitHub에서 보기 ↗

justvugg/colibri v2.1.0은 GGUF 실행과 CUDA·Vulkan 경로, 여러 모델 지원, 대화 화면을 확장한 릴리스다. 변경 내용은 2026-10-31 공개된 GitHub 릴리스 노트에 적혀 있다. colibri는 사용자가 보유한 하드웨어에서 MoE 모델을 실행하는 순수 C 엔진으로, 의존성이 없고 전문가 가중치를 디스크에서 스트리밍하는 것이 저장소 설명이다.

이 프로젝트의 목적은 큰 MoE 모델을 이미 가진 하드웨어에서 실행하는 데 있다. 순수 C 구현과 의존성 없는 구성, 디스크에서 전문가를 읽어 오는 방식은 저장소가 내세우는 설계의 핵심이다. 이번 v2.1.0에서는 GGUF 실행뿐 아니라 CUDA·Vulkan 경로와 여러 모델, 대화 화면도 확장했다고 릴리스 노트가 밝힌다. 제공된 릴리스 요약은 각 경로의 구체적인 동작 조건이나 지원 범위를 설명하지 않는다.

긴 문맥 처리와 추론 속도에 관한 수치는 릴리스 작성자가 공개한 측정값이다. 공개된 요약만으로는 측정 조건이나 비교 대상을 알 수 없다. 따라서 이를 독립적으로 확인된 결과나 다른 하드웨어에도 적용되는 성능 보장으로 읽기는 어렵다. 이번 릴리스에서 확인되는 변화는 실행 경로와 모델 및 대화 화면의 확장이고, 공개된 측정값만으로 일반적인 성능 향상까지 단정할 수는 없다.