mattral/flashspec

FlashSpec 0.3.2 将 GenerationResult.acceptance_rate 改为单次调用的数值，修正了累计平均的错误，并更新了版本号与容器镜像标签。

GitHub 项目说明: Adaptive speculative-decoding inference engine with Triton-optimised verification and online bandit draft selection.

文章

新发现11月7日

FlashSpec 0.3.2 将 GenerationResult.acceptance_rate 改为单次调用的数值，修正了累计平均的错误，并更新了版本号与容器镜像标签。