待验证50% 置信事实精确时间

草稿模型通常一次生成3到8个候选token

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

推测解码：无损加速大模型推理的核心原理与实现

涉及实体

草稿模型concept

相关事实

待验证MTP草稿模型通常串行生成5-10个候选token，再由主模型并行批量验证71% 相似已验证投机解码用一个小型快速的草稿模型先行预测多个token，再由大模型一次性并行验证66% 相似待验证提升草稿接收率的方法包括使用主模型早期checkpoint作为草稿模型、针对特定领域数据微调草稿模型、采用更强的小模型作为草稿模型66% 相似待验证投机解码通过小型草稿模型提前生成候选token序列，可在保持输出质量前提下将LLM有效吞吐量提升2-3倍64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/901472

API

curl https://kongchang.com/api/v1/knowledge/claims/901472

MCP

get_claim(id=901472)