待验证50% 置信事实精确时间
LLM推理的随机性至少来自三个独立来源:采样策略(temperature、top-p)、浮点运算的累积误差、以及批处理大小变化导致的矩阵乘法归约顺序改变。
1
来源数
50%
置信度
长期有效
时效性
2026/10/16
首次发现
来源
非确定性真的无关紧要吗?重审LLM推理的随机性争议
rss2026/10/14
涉及实体
相关事实
已验证LLM生成每个token时根据温度参数从概率分布中随机采样,而非选择概率最高的确定性输出,从而产生涌现性79% 相似待验证大语言模型(LLM)由于temperature、top-p、top-k等采样策略带有随机性,同一提示词在两次调用中可能产生截然不同的响应79% 相似待验证在LLM引用行为测试中固定随机性需要同时设置temperature和top-p参数并在支持时固定随机种子78% 相似已验证LLM的不一致性与模型的温度参数和随机采样过程密切相关,同一问题多次调用同一模型可能产生不同答案78% 相似待验证LLM 每一步推理都是从概率分布中采样,多步串联后误差会滚雪球式放大,而代码执行要么跑对要么报错,不存在大致正确75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1042199API
curl https://kongchang.com/api/v1/knowledge/claims/1042199MCP
get_claim(id=1042199)