待验证50% 置信基准精确时间

推测解码技术使速度快约1.6到1.8倍，实测中大模型约79%的情况下认可了小助手的猜测

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/10/12

首次发现

有效期至：2027/1/10

来源

Strata开源项目：家用PC本地跑125B模型快云端5倍

涉及实体

推测解码concept Strataproduct

相关事实

已验证Speculative Decoding在草稿模型预测准确率达到60-80%时，整体推理速度可提升2-3倍75% 相似待验证主持人实测发现极简模式做任务的速度比标准模式快约三分之一，效果与标准模式相当75% 相似待验证Microsoft Discovery用Decision-1在自适应重规划循环中给实验打分，报告称模型评分比基于LLM的评分一致性高46倍、速度快3倍73% 相似待验证使用多智能体验证流程时MARCH的准确率被压低到4.4%，而同一模型被直接问哪个更好时准确率能达到43.7%71% 相似待验证70B模型的推理速度可能只有7B的十分之一,内存占用则是数倍70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1003437

API

curl https://kongchang.com/api/v1/knowledge/claims/1003437

MCP

get_claim(id=1003437)