hao-ai-lab/jetspec은 speculative decoding(초안 토큰을 먼저 만들고 검증으로 확정해 한 번에 진행하는 기법)을 트리 초안으로 확장한 LLM 추론 프로젝트다. 2026년 10월 30일에 병합된 최신 커밋(673267e)은 PR #33이며, 코드가 아니라 문서만 손댔다. README를 섹션 단위로 재편하고, 방법과 엔진 디렉터리에 AGENTS.md를 새로 추가했다. 변경은 마크다운 파일 8개에 걸친 207줄 추가와 219줄 삭제다.
README는 상단 링크(논문 arXiv 2610.19792, 프로젝트 웹페이지, Hugging Face 모델), 개요, 지원 모델, 빠른 시작, 평가, 코드로 다시 짜졌다. 접이식 블록으로 감춰 둔 JetSpec과 JetSpec++ 설명을 펼쳐 두었고, 코드 절은 torch 레퍼런스인 방법 구현과 2개 GPU에서 도는 서빙 엔진을 각각의 README로 연결한다. 평가 절은 논문 Table 3을 다시 옮기는 대신 bench/jetspec_plus_plus/reproduce_paper_results.md 가이드로 방향을 튼다. 이 가이드는 호스트 파일, 프로토콜, 다른 베이스라인을 설명한다.
빠른 시작 부분에는 수치의 조건을 박아 두는 문장이 붙었다. 출력 처리량은 새 엔진에서 짧은 프롬프트 한 건을 처리한 값이므로, 고정된 기준을 보려면 bench의 speedup.py를 쓰라는 단서다. README는 GB200 2대에서 자가회귀 디코딩 대비 최대 7.45배, DSpark 대비 1.54배, 최대 1,361토큰/초라고 밝히고, 7개 벤치마크의 수용 길이는 온도 0에서 라운드당 평균 8.94토큰(DSpark 6.89)이라고 적는다.
다만 이번 커밋은 전부 문서 정리다. 성능 수치는 논문 Table 3에서 옮겨온 값이지 이 변경으로 다시 측정한 결과가 아니며, 디코딩 동작은 바뀌지 않았다. 읽기 쉬운 진입점과 디렉터리 안내는 좋아졌지만 속도 주장에 대한 독립 검증은 여전히 없고, README가 전제한 GB200·B200 하드웨어가 필요하다. 새로 시도하기보다 따라가 볼 만한 정리로 가깝다.