Unverified50% confidenceSolutionExact time

投机解码通过小型草稿模型提前生成候选token序列，可在保持输出质量前提下将LLM有效吞吐量提升2-3倍

1

Sources

50%

Confidence

Long-term

Relevance

7/22/2026

First Seen

Sources

Moonshine：低延迟语音引擎，构建语音智能体的开源利器

Related Claims

Verified投机解码用一个小型快速的草稿模型先行预测多个token，再由大模型一次性并行验证79% similar Unverified推测解码技术由本地小模型草拟答案、大模型验证，可在不降低质量前提下提升整体吞吐速度2到4倍77% similar

Cite This Claim

Stable URI

https://kongchang.com/claim/587237

API

curl https://kongchang.com/api/v1/knowledge/claims/587237

MCP

get_claim(id=587237)