github.devotd.

al-jshen/flashmap

al-jshen/flashmap은 잡음에서 토큰 블록 전체를 한 번에 만들어 블록 안 의존성을 잡는 손실 없는 추측 디코딩 드래프터다.

GitHub 설명: Flow Map Speculative Decoding

GitHub에서 보기 ↗
스타
★ 20
포크
2
언어
Python
라이선스
MIT

게시물

1