待验证50% 置信权衡取舍精确时间

在8块GPU的张量并行组中若1块故障，剩余7块各额外承担约14.3%负载，整体吞吐量降至约87.5%，仍优于触发检查点回滚的Goodput损失

1

来源数

50%

置信度

长期有效

时效性

2026/7/7

首次发现

来源

非均匀张量并行：NVIDIA提升LLM训练Goodput的容错新方案

rss2026/7/6

相关事实

待验证一个拥有10,000块GPU的训练集群，假设单块GPU年故障率为3%，平均每天约有一块GPU出现问题71% 相似待验证测试中4块GPU中只有1块的利用率达到约10%-13%，其余几乎处于空闲状态，而CPU使用率高达50%左右69% 相似待验证当AI集群规模扩展到数万张GPU时，整体效率可能暴跌到40%以下，超过一半的算力被消耗在数据传输和等待过程中68% 相似待验证自回归解码阶段GPU算力利用率往往不足10%，属于内存密集型操作66% 相似待验证相较于用GPU执行AI推理，NPU的功耗通常只有前者的1/5到1/1065% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/206979

API

curl https://kongchang.com/api/v1/knowledge/claims/206979

MCP

get_claim(id=206979)