待验证50% 置信决策规则精确时间
LLM推理延迟分布呈重尾特征，应以P90或P95百分位数而非平均值作为门禁指标
1
来源数
50%
置信度
长期有效
时效性
2026/7/16
首次发现
来源
相关事实
待验证代数哈希的响应时间在统计上高度稳定，其P99尾延迟可被严格数学界定，而神经网络推理的延迟随输入复杂度、KV缓存状态和批处理大小动态波动76% 相似已验证P95表示95%的请求延迟低于该值，P99表示99%的请求延迟低于该值，高分位数指标专门捕捉尾部延迟严重程度75% 相似待验证LLM推理延迟根据模型大小和Token数量从300ms到2000ms不等71% 相似待验证基于规则的分类方案P99延迟通常在1毫秒以内，但难以处理语义歧义69% 相似已验证LLM的非确定性来源于采样策略，Temperature参数控制输出分布的随机程度，Top-p和Top-k进一步约束候选Token范围69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/530940API
curl https://kongchang.com/api/v1/knowledge/claims/530940MCP
get_claim(id=530940)