待验证50% 置信事实精确时间

推测解码中若draft模型每位置准确率为p,生成k个候选token时期望接受的token数为p*(1-p^k)/(1-p)

1

来源数

50%

置信度

长期有效

时效性

2026/9/8

首次发现

来源

vLLM推测解码登陆AMD GPU：推理加速与生态突破

涉及实体

Speculative Decodingconcept

相关事实

待验证后验分布通过贝叶斯定理获得：p(θ|x)∝p(x|θ)·p(θ)，将先验知识与数据似然结合63% 相似已验证Ollama底层依赖llama.cpp推理引擎62% 相似已验证逻辑回归通过Sigmoid函数将线性组合的输出压缩到(0,1)区间，表示样本属于某一类别的概率62% 相似待验证命名中的K_M后缀表示采用分组量化策略，在相同比特数下通常保留更好的模型精度61% 相似待验证自回归语言模型的串行约束源于其概率分解形式P(x₁,...,xₙ)=∏P(xₜ|x₁,...,xₜ₋₁)，是内在数学属性而非算法缺陷61% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/880305

API

curl https://kongchang.com/api/v1/knowledge/claims/880305

MCP

get_claim(id=880305)