待验证50% 置信事实精确时间

Speculative decoding由Google DeepMind提出，其数学基础建立在rejection sampling之上，草稿模型的token以min(1, p_large(x)/p_draft(x))的概率被接受，严格保证输出分布与大模型独立生成一致

1

来源数

50%

置信度

长期有效

时效性

2026/8/11

首次发现

来源

neocursor.nvim：把Cursor的Tab补全带进NeoVim

相关事实

待验证自回归大模型推理瓶颈并非计算量而是内存带宽，推测解码通过拒绝采样保证输出分布与原始大模型完全一致70% 相似待验证Google DeepMind和MIT等机构的研究表明，多个大语言模型通过辩论可以显著减少单个模型的幻觉和推理错误70% 相似待验证推测解码通过小模型生成草稿、大模型批量验证，在数学上通过拒绝采样保证输出与大模型完全一致，是无损加速69% 相似待验证推测解码（Speculative Decoding）通过使用小模型预测大模型的输出token来减少计算量68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/729568

API

curl https://kongchang.com/api/v1/knowledge/claims/729568

MCP

get_claim(id=729568)