待验证50% 置信事实精确时间
投机解码是一种在保持输出分布不变的前提下加速自回归生成的技术：草稿模型先自回归生成 k 个候选 token，目标模型一次并行前向逐一接受或拒绝，遇到第一个拒绝位置重新采样。
1
来源数
50%
置信度
长期有效
时效性
2026/10/23
首次发现
来源
Ollama v0.40.10 更新 Gemma 渲染器，支持投机解码
rss2026/10/23
涉及实体
相关事实
已验证推测解码通过轻量级草稿模型生成候选 token，主模型一次前向传播并行验证，接受符合分布的 token 并从第一个被拒绝处重新生成78% 相似待验证投机解码的无损性依赖一种修正的拒绝采样机制：对草稿模型提出的每个 token，目标模型计算其概率并据此决定接受或拒绝；一旦拒绝，就从目标模型与草稿模型分布的差值（归一化后）中重新采样。77% 相似已验证推测解码是一种不改变模型输出分布的无损加速技术，使用参数量远小于目标模型的草稿模型生成候选token，再让目标模型并行验证75% 相似待验证推测解码技术通过小模型预测草稿、大模型验证的方式加速生成，KV Cache共享机制降低重复请求的计算冗余74% 相似待验证投机解码是一种在不改变输出分布的前提下加速生成的技术。73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1090551API
curl https://kongchang.com/api/v1/knowledge/claims/1090551MCP
get_claim(id=1090551)