github.devotd.

ernie-research/dcore

ernie-research/dcore 是一个推测解码研究仓库,在公平的比较条件下考察草稿模型的 token 接受率在何种情况下能转化为实际吞吐量。

GitHub 项目说明: More accepted tokens ≠ faster LLMs. This repo reveals how fair comparisons reshape drafter rankings—and when better acceptance pays off in throughput.

在 GitHub 查看 ↗
星标
★ 19
复刻
1
语言
—
许可证
MIT

文章

1