待验证50% 置信事实精确时间

一个GPU Util为100%的场景，SM Active可能只有15%，Tensor Core Active可能不到5%，三者粒度差异可达数量级

1

来源数

50%

置信度

长期有效

时效性

2026/9/3

首次发现

来源

GKE GPU监控盲区：利用率指标误导与归因错误的深度剖析

涉及实体

GPU Utilconcept

相关事实

待验证单条推理通常只能占用GPU SM利用率的5%～15%，而合理的批次大小可将利用率提升至60%～90%71% 相似待验证测试中4块GPU中只有1块的利用率达到约10%-13%，其余几乎处于空闲状态，而CPU使用率高达50%左右68% 相似待验证许多推理服务的GPU利用率不足30%，通过VGPU技术可将利用率提升至70%以上65% 相似待验证若没有充分优化的软件栈，GPU实际利用率往往只能达到理论峰值的30-50%64% 相似待验证nvidia-smi报告的GPU利用率本质上只统计采样时间窗口内GPU上至少有一个内核在执行的时间占比，而非计算资源的实际占用率63% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/849969

API

curl https://kongchang.com/api/v1/knowledge/claims/849969

MCP

get_claim(id=849969)