待验证50% 置信事实精确时间

测试中4块GPU中只有1块的利用率达到约10%-13%，其余几乎处于空闲状态，而CPU使用率高达50%左右

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/7/2

首次发现

有效期至：2026/9/30

来源

4000美元4张RTX3090本地运行GLM-5.2全攻略

bilibili程序员-智能译站2026/6/24

相关事实

待验证单条推理通常只能占用GPU SM利用率的5%～15%，而合理的批次大小可将利用率提升至60%～90%74% 相似待验证在完整的AI应用系统中，GPU推理通常只占总计算量的30%-40%，其余60%-70%的计算负载由CPU承担74% 相似待验证自回归解码阶段GPU算力利用率往往不足10%，属于内存密集型操作74% 相似待验证nvidia-smi报告的GPU利用率本质上只统计采样时间窗口内GPU上至少有一个内核在执行的时间占比，而非计算资源的实际占用率73% 相似待验证若没有充分优化的软件栈，GPU实际利用率往往只能达到理论峰值的30-50%71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/40847

API

curl https://kongchang.com/api/v1/knowledge/claims/40847

MCP

get_claim(id=40847)