待验证50% 置信事实精确时间

vLLM 的连续批处理导致同一请求在不同时间运行所加入的批次组成不同，批次中其他序列的长度、数量、生成阶段都在变化，从而影响计算路径。

1

来源数

50%

置信度

长期有效

时效性

2026/10/18

首次发现

来源

vLLM temperature=0 竟非确定：200条评测23条翻转

rss2026/10/18

涉及实体

vLLMproduct 连续批处理concept

相关事实

待验证vLLM 的连续批处理机制导致即便 temperature=0、模型权重和代码不变，同一请求在不同时间运行也可能产生不同的输出。76% 相似已验证vLLM采用连续批处理（Continuous Batching），将调度粒度细化到每个生成步骤，即完即补74% 相似待验证节点同时做LLM调用和路由判断会导致对同一数据的重复评估或每步多次调用LLM，拖垮Token消耗70% 相似待验证基于 VLM（视觉语言模型）的解析在不同运行之间可能产生漂移（运行间漂移），导致同一文件两次输出不一致70% 相似待验证生产级LLM应用往往需要多次调用LLM、解析输出、以及在不同步骤间传递上下文70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1060918

API

curl https://kongchang.com/api/v1/knowledge/claims/1060918

MCP

get_claim(id=1060918)