al-jshen/flashmap

al-jshen/flashmap 是一个从噪声中一次生成整块 token、同时捕捉块内依赖关系的无损推测解码 drafter。

GitHub 项目说明: Flow Map Speculative Decoding

星标

★ 20

复刻

2

语言

Python

许可证

MIT