待验证50% 置信事实精确时间
vLLM 的连续批处理机制导致即便 temperature=0、模型权重和代码不变，同一请求在不同时间运行也可能产生不同的输出。
1
来源数
50%
置信度
长期有效
时效性
2026/10/18
首次发现
来源
vLLM temperature=0 竟非确定：200条评测23条翻转
rss2026/10/18
涉及实体
相关事实
待验证温度参数T趋近于0时模型趋向贪心解码，相同输入下必然给出完全相同输出，是导致Agent固化循环的根本原因76% 相似待验证vLLM 的连续批处理导致同一请求在不同时间运行所加入的批次组成不同，批次中其他序列的长度、数量、生成阶段都在变化，从而影响计算路径。76% 相似待验证在温度参数大于0的采样策略下，即使输入完全相同，大模型多次运行也可能产生不同的token序列，进而走向不同的工具调用路径和推理过程。73% 相似待验证LLM 的输出非确定性根源于自回归生成机制，即使输入相同，Temperature、Top-p 等采样参数也会导致不同输出72% 相似待验证一位Reddit研究者使用自托管Qwen模型配合vLLM推理框架，对SWE-bench中同一任务在相同配置和temperature=0下执行了13次71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1060907API
curl https://kongchang.com/api/v1/knowledge/claims/1060907MCP
get_claim(id=1060907)