已验证75% 置信事实精确时间
大语言模型的非确定性根源于其自回归采样过程，即便temperature设为0，不同推理框架、批处理大小和硬件浮点运算差异都可能导致输出漂移
5
来源数
75%
置信度
长期有效
时效性
2026/7/19
首次发现
来源
相关事实
已验证即使将温度设为0，部分推理框架底层仍存在浮点计算的非确定性，导致跨硬件、跨批次的输出差异85% 相似待验证由于模型工具选择受上下文窗口内容、温度参数、推理链路等因素影响，相同输入在不同运行中可能产生不同的调用序列，这种非确定性是Mock难以覆盖的根本原因78% 相似待验证即使temperature设为0（贪心解码），大语言模型的行为仍受上下文长度和注意力机制位置偏差等因素影响78% 相似待验证Temperature=0（贪心采样）也不能保证模型输出的确定性，至少有三个原因：浮点运算非结合性、MoE路由不确定性、服务端配置漂移77% 相似待验证智能体的行为具有不确定性，即使使用相同的prompt和temperature=0设置，同一模型在不同时间点的输出也可能存在细微差异，受浮点运算精度、批处理策略、模型版本更新等因素影响76% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/563158API
curl https://kongchang.com/api/v1/knowledge/claims/563158MCP
get_claim(id=563158)