新发现
ernie-research/dcore — 接受率与吞吐量对比研究
ernie-research/dcore 是一个推测解码研究仓库,在公平的比较条件下考察草稿模型的 token 接受率在何种情况下能转化为实际吞吐量。
ernie-research/dcore 是一个推测解码研究仓库,在公平的比较条件下考察草稿模型的 token 接受率在何种情况下能转化为实际吞吐量。
GitHub 项目说明: More accepted tokens ≠ faster LLMs. This repo reveals how fair comparisons reshape drafter rankings—and when better acceptance pays off in throughput.
在 GitHub 查看 ↗ernie-research/dcore 是一个推测解码研究仓库,在公平的比较条件下考察草稿模型的 token 接受率在何种情况下能转化为实际吞吐量。
没有符合条件的动态。