mattral/flashspec-asm

mattral/flashspec-asm 是用于计算推测解码中残存概率分布的可选 AVX2 CPU 路径。

GitHub 项目说明: Hand-written x86-64 AVX2 assembly kernel for the residual distribution computation in speculative decoding

星标

★ 9

复刻

0

语言

C

许可证

Apache-2.0

最新版本

v0.1.2