已验证75% 置信事实精确时间
即使将temperature设为0，部分模型仍会因并行计算的浮点误差产生轻微输出波动
3
来源数
75%
置信度
长期有效
时效性
2026/7/24
首次发现
来源
如何科学测试提示词对LLM引用行为的影响
redditr/learnmachinelearning2026/7/9
相关事实
已验证即使将温度设为0，部分推理框架底层仍存在浮点计算的非确定性，导致跨硬件、跨批次的输出差异81% 相似已验证即便将Temperature设为0（贪婪解码），现代GPU的并行浮点运算顺序仍可能导致结果微小差异80% 相似待验证加载MTP层后额外浮点运算会导致数值产生微小变化，可能导致模型走不同推理路径产生不同结果，即使温度设为0也会出现79% 相似待验证Temperature=0（贪心采样）也不能保证模型输出的确定性，至少有三个原因：浮点运算非结合性、MoE路由不确定性、服务端配置漂移77% 相似已验证大语言模型的非确定性根源于其自回归采样过程，即便temperature设为0，不同推理框架、批处理大小和硬件浮点运算差异都可能导致输出漂移76% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/606928API
curl https://kongchang.com/api/v1/knowledge/claims/606928MCP
get_claim(id=606928)