Unverified50% confidenceFactExact time
测试中4块GPU中只有1块的利用率达到约10%-13%，其余几乎处于空闲状态，而CPU使用率高达50%左右
1
Sources
50%
Confidence
Medium-term (~90 days)
Relevance
7/2/2026
First Seen
Valid until: 9/30/2026
Sources
4000美元4张RTX3090本地运行GLM-5.2全攻略
bilibili程序员-智能译站6/24/2026
Related Claims
Unverified单条推理通常只能占用GPU SM利用率的5%～15%，而合理的批次大小可将利用率提升至60%～90%74% similarUnverified在完整的AI应用系统中，GPU推理通常只占总计算量的30%-40%，其余60%-70%的计算负载由CPU承担74% similarUnverified自回归解码阶段GPU算力利用率往往不足10%，属于内存密集型操作74% similarUnverifiednvidia-smi报告的GPU利用率本质上只统计采样时间窗口内GPU上至少有一个内核在执行的时间占比，而非计算资源的实际占用率73% similarUnverified若没有充分优化的软件栈，GPU实际利用率往往只能达到理论峰值的30-50%71% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/40847API
curl https://kongchang.com/api/v1/knowledge/claims/40847MCP
get_claim(id=40847)