待验证50% 置信事实精确时间

虚拟输入在模型加载、显存预分配和性能剖析阶段用于构造假的输入张量来预跑计算图，以确定内存占用峰值、预热CUDA内核及验证执行路径正确性

1

来源数

50%

置信度

长期有效

时效性

2026/10/1

首次发现

来源

vLLM v0.31.0rc3发布：Model Runner V2引入随机化虚拟输入

涉及实体

Dummy Inputsconcept

相关事实

待验证引入随机化虚拟输入可用更接近真实数据分布的随机张量进行预热与剖析，使显存估算和性能测量更为准确69% 相似待验证提示缓存缓存的是模型处理输入时产生的中间计算结果（KV对），而非模型的输出69% 相似待验证多模态大模型（VLM）通过视觉编码器将patch转为高维向量并结合语言先验补全内容，与传统OCR基于局部决策并在置信度低时报错的行为有本质区别68% 相似待验证本地模型的可用内存和显存（VRAM）直接决定可获得的上下文窗口长度，因为推理需在显存中维护 KV Cache67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/964607

API

curl https://kongchang.com/api/v1/knowledge/claims/964607

MCP

get_claim(id=964607)