Devotd Github
새 소식추론/서빙

raketenkater/ggrun — 카탈로그 갱신 가드와 인덱스 변환 보정

raketenkater/ggrun이 카탈로그 갱신 시 실제 리더보드 점수만 세도록 가드를 고치고, Theil-Sen 적합과 버전 표기 판정으로 인덱스 변환을 안정화했다.

저장소 정보raketenkater/ggrun ↗

raketenkater/ggrun이 카탈로그 갱신 시 실제 리더보드 점수만 세도록 가드를 고치고, Theil-Sen 적합과 버전 표기 판정으로 인덱스 변환을 안정화했다.

GitHub 설명: llama.cpp/ik_llama.cpp launcher: loads big MoE models across mismatched multi-GPU rigs by exact VRAM math.

스타
★ 280
포크
18
언어
Go
라이선스
MIT
최신 릴리스
v3.2.11
원문 보기 ↗GitHub에서 보기 ↗

raketenkater/ggrun은 llama.cpp와 ik_llama.cpp를 구동해, GPU 구성과 모델이 맞지 않는 환경에서도 VRAM 계산으로 큰 MoE 모델을 올리는 런처다. 2026-11-04 커밋 0ce4909는 PR #118 병합으로, 카탈로그 갱신 가드가 이월된 추정치가 아니라 실제 리더보드 점수만 세고, 인덱스 변환 적합이 단 한 쌍에 휘리지 않도록 바뀌었다. CHANGELOG에는 'Unreleased' 항목으로만 남아 있고, 날짜가 붙은 최신 릴리스는 v3.2.13(2026-10-29)다.

손본 곳은 모델 배치가 아니라 모델 카탈로그 갱신 경로다. 테스트 파일의 2026-11-02 리뷰 기록에 따르면, v5에서는 이월된 '~' 추정치가 점수 없는 모든 행을 채워 실제 점수를 잃은 스크레이프도 점유율 검사를 통과했고 상위 24개 실제 점수 행이 빠졌다. 가드는 이제 실제 점수 행만 세어 이전 값과 비교한다. 함께 log 공간 최소제곱 적합을 기울기 중앙값 방식(Theil-Sen 적합)으로 바꿔, 불일치 한 쌍 때문에 저점 영역의 변환 값이 크게 움직이는 일이 사라졌고 R² 기준 0.8은 그대로 유지된다. 또 지수와 절편이 0.02 이내로 같으면 점수가 바뀐 게 아니라 페이지의 버전 표기만 바뀐 것으로 보고 이전 버전을 유지한다. 변경은 tools/models/update_recommendations.py, tests/test_update_recommendations.py, CHANGELOG.md 세 파일에 걸친다.

한계도 분명하다. 변경은 카탈로그 갱신 스크립트와 회귀 테스트에만 머물고, 실행 속도나 VRAM 배치에 관한 수치는 제시되지 않았다. 확정된 버전 번호도 아직 붙지 않았고, 이 커밋은 누락돼 있던 v3.2.12(2026-10-18) 기록까지 채웠다. 점수 매핑이 어긋날 위험을 낮췄다는 사실까지는 코드와 테스트로 확인되지만, 카탈로그가 실제 리더보드에 얼마나 잘 맞춰지는지는 더 지켜봐야 한다. 출처: https://github.com/raketenkater/ggrun/commit/0ce49098484073d53719f977d268a77b32bb61fe