已验证75% 置信事实精确时间

推测解码是一种不改变模型输出分布的无损加速技术，使用参数量远小于目标模型的草稿模型生成候选token，再让目标模型并行验证

3

来源数

75%

置信度

长期有效

时效性

2026/9/1

首次发现

来源

跨用户复用LLM推理：知识图谱缓存的可行性探讨

涉及实体

推测解码concept

相关事实

待验证推测解码通过小模型生成草稿、大模型批量验证，在数学上通过拒绝采样保证输出与大模型完全一致，是无损加速80% 相似已验证推测解码（Speculative Decoding）通过使用小模型预测大模型的输出token来减少计算量77% 相似待验证分类模型的推理是非自回归的，仅需一次前向传播即可完成所有位置预测，计算效率显著高于生成模型77% 相似已验证投机解码用一个小型快速的草稿模型先行预测多个token，再由大模型一次性并行验证77% 相似待验证该模型的架构设计目标是让每个token的解码速度只取决于激活参数而非总参数77% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/838579

API

curl https://kongchang.com/api/v1/knowledge/claims/838579

MCP

get_claim(id=838579)