github.devotd.
新发现评测

ernie-research/dcore — 接受率与吞吐量对比研究

ernie-research/dcore 是一个推测解码研究仓库,在公平的比较条件下考察草稿模型的 token 接受率在何种情况下能转化为实际吞吐量。

仓库信息ernie-research/dcore ↗

ernie-research/dcore 是一个推测解码研究仓库,在公平的比较条件下考察草稿模型的 token 接受率在何种情况下能转化为实际吞吐量。

GitHub 项目说明: More accepted tokens ≠ faster LLMs. This repo reveals how fair comparisons reshape drafter rankings—and when better acceptance pays off in throughput.

星标
★ 19
复刻
1
许可证
MIT
查看原始来源 ↗在 GitHub 查看 ↗

ernie-research/dcore 是一个研究仓库,比较在推测解码(speculative decoding)中草稿模型的 token 接受率在何种条件下能转化为实际吞吐量。推测解码是指较小的草稿模型先提出下一个 token 的候选,再由主模型仅把其中接受的 token 反映到实际输出中。README 说明接受率提高并不必然带来吞吐量(throughput)的提升。该仓库创建于 2026 年 10 月 20 日。

该仓库的重点在于评估设计。README 在统一的训练、推理与评估条件下比较六种草稿方案与三个系列,并同时呈现已报告的结果与重新测量、重新训练结果的差异。DCore 被介绍为一个基准方案,它将 DFlash 的基础结构与 DFlare 的目标层上下文混合以及 D-PACE 训练目标结合起来。其核心在于:草稿方案的排名会随比较条件而变化,以及提出了考虑成本的草稿生成方案。许可证为 MIT,星标数为 19。

不过,代码与权重预计在论文正式发表之后才会公开,因此目前无法直接复现结果,复现性与实现深度都被评为较低。新颖性为 8.0,而技术性为 4.0,质量为 5.0,势能为 5.7。就目前而言,对于想参考推测解码评估设计的人来说,这似乎是一个有意义的仓库。