mattral/flashspec-asm

mattral/flashspec-asm은 추측 디코딩의 잔여 확률 분포 계산을 위한 선택형 AVX2 CPU 경로다.

GitHub 설명: Hand-written x86-64 AVX2 assembly kernel for the residual distribution computation in speculative decoding

스타

★ 9

포크

0

언어

C

라이선스

Apache-2.0

최신 릴리스

v0.1.2