Devotd Github
새 소식추론/서빙

eagle-hq/eagle-4 v0.1.3 — EAGLE-4 공식 추론 코드

eagle-hq/eagle-4는 추측 디코딩 도구 EAGLE-4의 공식 추론 코드로, 여러 서빙 엔진과 연결하는 라이브러리 및 운영 안내를 제공한다.

저장소 정보eagle-hq/eagle-4 ↗

eagle-hq/eagle-4는 추측 디코딩 도구 EAGLE-4의 공식 추론 코드로, 여러 서빙 엔진과 연결하는 라이브러리 및 운영 안내를 제공한다.

GitHub 설명: Official Inference Code of EAGLE-4

스타
★ 1K
포크
35
언어
Python
라이선스
NOASSERTION
최신 릴리스
v0.1.3
원문 보기 ↗GitHub에서 보기 ↗

eagle-hq/eagle-4의 최신 릴리스는 v0.1.3이다. 이 저장소는 EAGLE-4의 공식 추론 코드다. EAGLE-4는 측정된 실행 비용에 맞춰 추측 실행의 깊이와 트리 크기를 조정하는 추측 디코딩 도구다. 이번 릴리스에서 바뀐 개별 항목은 제공된 저장소 정보에 제시되지 않았다.

저장소는 SGLang, vLLM, TokenSpeed에 EAGLE-4를 연결하는 라이브러리와 설치·운영 안내를 제공한다. 배치 크기와 하드웨어, 작업량에 맞춰 추측 트리를 조정하고, 엔진 플러그인과 비용 보정, 커널 경로도 공개한다. 연구 아이디어를 서빙 엔진에 연결하는 구현이라는 점이 핵심이다. README는 Qwen3.8-27B에서 같은 답을 유지하며 최대 3.4배 생성 속도를 보고한다. EAGLE-4 공개를 소개한 자료에는 DFlash2·DSpark보다 빠른 드래프트 모델이라는 주장도 담겼다.

다만 최대 3.4배라는 값은 README에 적힌 측정 환경에 한정된다. DFlash2·DSpark 대비 속도 역시 소개된 주장으로, 다른 조건에서도 우위가 유지된다고 볼 근거는 제시되지 않았다. 라이선스는 NOASSERTION으로 표시돼 있어 이용 조건을 이 정보만으로 확인할 수 없다. v0.1.3의 개별 변경 내용도 주어지지 않아 릴리스가 무엇을 바꿨는지는 특정하기 어렵다.