al-jshen/flashmap

al-jshen/flashmap は、ノイズからトークンブロック全体を一度に生成し、ブロック内の依存関係も捉える无损な推測デコーディング用 drafter です。

GitHub の説明: Flow Map Speculative Decoding

スター

★ 20

フォーク

2

言語

Python

ライセンス

MIT