已验证65% 置信事实精确时间
推测解码由Google在2023年正式提出，用参数量为目标模型1/10到1/50的草稿模型一次生成多个候选token再由大模型并行验证
3
来源数
65%
置信度
长期有效
时效性
2026/7/22
首次发现
来源
相关事实
待验证推测解码由Google于2022年提出，可实现2-3倍吞吐量提升而不损失输出质量80% 相似待验证推测性解码由Google Brain于2023年正式提出，核心洞察是GPU在验证一批Token时的计算成本与验证单个Token相近76% 相似待验证推测解码由Google DeepMind的Leviathan等人和陈等人于2023年独立提出，基于拒绝采样的验证算法确保输出分布与主模型完全等价75% 相似已验证思维链（Chain-of-Thought）提示技术由Google Research于2022年提出74% 相似待验证谷歌官方文档指出，260亿参数的MoE模型全部参数都会被加载以保持推理速度，即使激活参数只有40亿73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/588978API
curl https://kongchang.com/api/v1/knowledge/claims/588978MCP
get_claim(id=588978)