待验证50% 置信事实精确时间

推测解码通过小模型生成草稿、大模型批量验证，在数学上通过拒绝采样保证输出与大模型完全一致，是无损加速

1

来源数

50%

置信度

长期有效

时效性

2026/7/25

首次发现

来源

DeepSeek开源DeepSpec：推理加速60-85%的推测解码全栈工具库

相关事实

已验证投机解码用一个小型快速的草稿模型先行预测多个token，再由大模型一次性并行验证82% 相似待验证自回归大模型推理瓶颈并非计算量而是内存带宽，推测解码通过拒绝采样保证输出分布与原始大模型完全一致80% 相似待验证推测解码在数学上是完全无损的，最终输出与大模型单独生成完全一致，只是速度提升80% 相似待验证推测解码技术由本地小模型草拟答案、大模型验证，可在不降低质量前提下提升整体吞吐速度2到4倍78% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/615359

API

curl https://kongchang.com/api/v1/knowledge/claims/615359

MCP

get_claim(id=615359)