mattral/flashspec가 0.3.2를 공개했다. FlashSpec는 HuggingFace 인과 언어 모델용 추측 디코딩(speculative decoding) 엔진으로, 작은 드래프터 모델이 제안한 토큰을 큰 모델이 한 번에 검증해 받아들인 토큰만 그대로 쓴다. 라이선스는 Apache-2.0이다. 2026-10-29 병합된 커밋 2fc7f84(Pull Request #59, 파일 55개 변경, 40줄 추가, 15줄 삭제)의 0.3.2는 디코딩 경로와 속도를 그대로 둔 버그 수정 릴리스고, 달라진 것은 한 가지다. GenerationResult.acceptance_rate가 이제 그 값을 돌려준 호출 한 번의 결과만 담는다.
이전 버전까지는 한 엔진에서 두 번째 이후의 모든 호출이 앞선 호출을 전부 합친 누적 평균을 반환했다. 워밍업 호출이 평균에 섞였기 때문에 어떤 설정이 실제로 잘 맞는지 볼 때 방해가 된다. 수용률은 제안 토큰 가운데 큰 모델이 받아들인 비율로, 드래프터가 쓸 만한지를 가늠하는 지표라 호출별로 읽어야 한다. 단계별 accepted와 proposed 카운트, arm_steps 합계는 원래부터 정확했고 이번에 표면화된 값만 바뀐 것이다. README의 수용률 열과 docs/lessons.md의 Figure 9는 저장된 단계별 카운트에서 다시 계산했고, README 표 숫자는 여전히 0.3.0 릴리스 구동(번들 3c43e08) 결과다. 버전 표기는 pyproject.toml과 flashspec/__init__.py, CITATION.cff(릴리스일 2026-10-29), deploy/Dockerfile과 docker-compose.yml, k8s 매니페스트, docs/install.md, README까지 0.3.2로 올랐고 컨테이너 이미지 태그도 ghcr.io/mattral/flashspec:0.3.2로 바뀌었다. 사용자가 고칠 코드는 없다.
다만 이 릴리스는 Alpha 상태 그대로이고 새 측정은 없다. README가 밝힌 측정 범위는 하나의 모델 쌍(Qwen/Qwen2.5-1.5B-Instruct를 Qwen/Qwen2.5-0.5B-Instruct로 검증), Tesla T4 한 대, fp16, 배치 1, MT-Bench 10개와 HumanEval 10개 프롬프트뿐이며 다른 GPU와 모델 쌍, 배치 크기는 측정되지 않았다. 문서의 H100 수치는 설계 목표다. UCB1/Thompson 드래프터 선택은 일곱 개 팔을 한 번 비교했을 때 가장 좋은 고정 팔을 이기지 못했고, Triton과 어셈블리 커널은 실험 단계로 생성 임계 경로 밖에 있다. 첫 호출의 컴파일, fp16 greedy에서 정확히 일치하는 경우의 동률, CUDA 그래프의 크기 경고도 0.3.1과 같다. 잘못된 지표를 고친 정확한 수정이지만 근거가 늘어난 것은 아니니, 지표를 다시 읽을 계획이 없다면 버전만 올리는 쪽이다.