mattral/flashspec-asm

mattral/flashspec-asm は、推測デコーディングにおける残存確率分布の計算のための任意の AVX2 CPU パスである。

GitHub の説明: Hand-written x86-64 AVX2 assembly kernel for the residual distribution computation in speculative decoding

スター

★ 9

フォーク

0

言語

C

ライセンス

Apache-2.0

最新リリース

v0.1.2