Devotd Github
릴리스추론/서빙

prabanta-dev/janas v2026.10.29.1 — 실행 파일과 GPU 진단 빌드

prabanta-dev/janas가 v2026.10.29.1 패치판을 배포하며 리눅스·윈도우 실행 파일과 그래픽 처리 장치 진단 빌드를 함께 제공했다.

저장소 정보prabanta-dev/janas ↗

prabanta-dev/janas가 v2026.10.29.1 패치판을 배포하며 리눅스·윈도우 실행 파일과 그래픽 처리 장치 진단 빌드를 함께 제공했다.

GitHub 설명: 37 tok/s from Qwen3-Next-80B (48 GB) on a 32 GB laptop, 24 without drafts vs 2.8 for llama.cpp; reading 62 vs 16 tok/s. Faster than llama.cpp on all 13 models compared in Q4_K_M. LLMs bigger than your RAM, pure C, CPU or GPU.

스타
★ 477
포크
37
언어
C
라이선스
GPL-3.0
최신 릴리스
v2026.10.29.1
원문 보기 ↗GitHub에서 보기 ↗

prabanta-dev/janas는 RAM보다 큰 언어 모델을 CPU나 GPU에서 실행하는 순수 C 프로젝트다. GitHub 릴리스 페이지에 따르면 v2026.10.29.1은 전날 배포에 이은 패치판이다. 이번 배포에는 리눅스와 윈도우 실행 파일, 그래픽 처리 장치(GPU) 진단 빌드가 포함됐다. 변경 내용은 저장소의 ChangeLog.md에 정리돼 있지만, 제공된 정보에는 구체적인 수정 항목이 없다.

저장소 설명은 메모리보다 큰 모델을 실행하는 용도와 성능 비교를 내세운다. 설명에 적힌 사례는 32 GB 노트북에서 48 GB Qwen3-Next-80B를 실행해 37 tok/s를 기록했다는 내용이다. draft를 사용하지 않은 경우는 24 tok/s이며, llama.cpp는 2.8 tok/s로 기재됐다. 읽기 속도는 각각 62 tok/s와 16 tok/s다. 또 Q4_K_M 형식으로 비교한 13개 모델 모두에서 llama.cpp보다 빠르다고 설명한다.

이 수치와 비교 결과는 저장소 설명에 기재된 주장이다. 제공된 자료에는 측정 조건이나 독립적인 검증 결과가 없다. 따라서 이번 릴리스에서 확인할 수 있는 변화는 플랫폼별 실행 파일과 GPU 진단 빌드의 제공이며, 성능 우위는 별도 근거가 확인되기 전까지 저장소의 주장으로 보는 편이 적절하다.