待验证50% 置信事实精确时间
投机解码的无损性依赖一种修正的拒绝采样机制:对草稿模型提出的每个 token,目标模型计算其概率并据此决定接受或拒绝;一旦拒绝,就从目标模型与草稿模型分布的差值(归一化后)中重新采样。
1
来源数
50%
置信度
长期有效
时效性
2026/10/20
首次发现
来源
涉及实体
相关事实
已验证推测解码通过轻量级草稿模型生成候选 token,主模型一次前向传播并行验证,接受符合分布的 token 并从第一个被拒绝处重新生成80% 相似待验证AdaptiveSpec的逐步边际规则允许当目标模型在草稿token上的概率与其top-1 token概率之比超过阈值时接受该草稿token,即使二者不完全匹配77% 相似已验证推测解码是一种不改变模型输出分布的无损加速技术,使用参数量远小于目标模型的草稿模型生成候选token,再让目标模型并行验证75% 相似待验证推测采样用廉价草稿模型并行生成多个候选状态,再由目标模型并行验证,在保持目标分布不变的前提下减少目标模型调用次数73% 相似待验证模型的拒绝行为是训练过程中塑造出的概率性反应,而非基于真正的理解或判断73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1074370API
curl https://kongchang.com/api/v1/knowledge/claims/1074370MCP
get_claim(id=1074370)