概念acceptance rate
接受率
在投机解码中,指草稿模型生成的令牌被目标模型接受的比例,是衡量草稿模型质量的关键指标。聚合接受率是对所有决策点合并统计的结果,可能掩盖局部性能波动。
核心事实
时间轴 (近 90 天)
11月3日
接受长度与接受率并非简单线性关系:它依赖于前缀token被逐一接受的概率乘积。
待验证50%
10月20日
蒸馏模型通过让草稿模型拟合目标模型的输出分布来进一步提升对齐度,从而抬高接受率。
待验证50%
10月20日
对于输出确定性强的任务(如代码补全、结构化生成),投机解码的接受率通常较高;对于开放式创作,接受率可能下降。
待验证50%
9月11日
接受率越高意味着草稿模型猜测越准,大模型返工次数越少,直接决定投机解码的实际加速效果
已验证85%