Unverified80% confidenceFactTime unknown
一个拥有10,000块GPU的训练集群,假设单块GPU年故障率为3%,平均每天约有一块GPU出现问题
1
Sources
80%
Confidence
Long-term
Relevance
6/1/2026
First Seen
Sources
Related Entities
Related Claims
Unverified在8块GPU的张量并行组中若1块故障,剩余7块各额外承担约14.3%负载,整体吞吐量降至约87.5%,仍优于触发检查点回滚的Goodput损失71% similarUnverified测试中4块GPU中只有1块的利用率达到约10%-13%,其余几乎处于空闲状态,而CPU使用率高达50%左右71% similarUnverified根据 MLCommons 等机构的调研,业界大规模训练任务的平均 GPU 有效利用率普遍在 40%-60% 区间69% similarUnverifiednvidia-smi报告的GPU利用率本质上只统计采样时间窗口内GPU上至少有一个内核在执行的时间占比,而非计算资源的实际占用率67% similarUnverified大模型推理时实际GPU利用率往往不足10%67% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/21231API
curl https://kongchang.com/api/v1/knowledge/claims/21231MCP
get_claim(id=21231)