待验证50% 置信事实精确时间
prefill阶段因为要处理变长输入，往往需要为多种序列长度分别捕获CUDA graph，录制时间会被进一步放大。
1
来源数
50%
置信度
长期有效
时效性
2026/10/12
首次发现
来源
涉及实体
相关事实
待验证重叠式检查点分阶段加载让检查点页在CUDA graph捕获期间就从存储中并行分阶段载入76% 相似待验证CUDA graph的代价是录制阶段本身需要先把整套图跑通一遍甚至多遍，且对动态形状、动态控制流的支持有限。73% 相似待验证推理框架运行时开销（CUDA上下文初始化、算子融合缓存、显存碎片等）通常额外消耗 0.5–2 GB70% 相似待验证CUDA Graph 是 NVIDIA 在 CUDA 10 引入的性能优化技术，通过录制-回放机制降低 CPU-GPU 同步延迟69% 相似待验证vLLM在启动时通常只对解码阶段做CUDA graph捕获，且对捕获的batch size集合有更激进的裁剪策略，因此其冷启动图捕获阶段往往比SGLang短。69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1012434API
curl https://kongchang.com/api/v1/knowledge/claims/1012434MCP
get_claim(id=1012434)