待验证50% 置信事实精确时间

CUDA内核在首次执行时需经历JIT编译、内核选择等耗时操作，导致第一批次推理延迟异常偏高，可通过虚拟输入预热提前触发初始化

1

来源数

50%

置信度

长期有效

时效性

2026/10/1

首次发现

来源

vLLM v0.31.0rc3发布：Model Runner V2引入随机化虚拟输入

涉及实体

相关事实

待验证运行时出现'Torch not compiled with CUDA enabled'错误会导致模型在CPU上训练，速度极慢，安装CUDA后设备切换到GPU可大幅提升训练速度66% 相似待验证CUDA的SIMT执行机制中，每个Warp由32个线程组成，在同一时钟周期执行相同指令62% 相似待验证cuDNN的卷积算法针对NVIDIA各代架构深度调优，在实际训练任务中往往比通用实现快数倍61% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/964609

API

curl https://kongchang.com/api/v1/knowledge/claims/964609

MCP

get_claim(id=964609)