待验证50% 置信事实精确时间
Prefill阶段属于计算密集型任务,GPU利用率通常达60-80%
1
来源数
50%
置信度
长期有效
时效性
2026/9/10
首次发现
来源
涉及实体
相关事实
待验证根据 MLCommons 等机构的调研，业界大规模训练任务的平均 GPU 有效利用率普遍在 40%-60% 区间74% 相似已验证连续批处理在每个解码步骤后立即移出已完成序列并插入新请求，将GPU利用率从传统方案的30-50%提升至80%以上74% 相似待验证在完整的AI应用系统中，GPU推理通常只占总计算量的30%-40%，其余60%-70%的计算负载由CPU承担72% 相似待验证nvidia-smi报告的GPU利用率本质上只统计采样时间窗口内GPU上至少有一个内核在执行的时间占比，而非计算资源的实际占用率71% 相似待验证许多推理服务的GPU利用率不足30%，通过VGPU技术可将利用率提升至70%以上71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/887578API
curl https://kongchang.com/api/v1/knowledge/claims/887578MCP
get_claim(id=887578)