已验证90% 置信事实时间未知

投机解码用一个小型快速的草稿模型先行预测多个token，再由大模型一次性并行验证

17

来源数

90%

置信度

长期有效

时效性

2026/6/1

首次发现

来源

Qwen 3.6 MTP实测：三行参数提速20%的秘密

bilibili比特光锥_BightCone

涉及实体

Speculative Decodingconcept

相关事实

待验证推测解码通过小模型生成草稿、大模型批量验证，在数学上通过拒绝采样保证输出与大模型完全一致，是无损加速82% 相似待验证推测解码技术用小型本地模型快速生成草稿token，再由云端大模型进行验证和修正81% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/18099

API

curl https://kongchang.com/api/v1/knowledge/claims/18099

MCP

get_claim(id=18099)