待验证50% 置信事实精确时间

典型的张量并行度通常为2、4或8，受限于单机NVLink带宽，跨节点张量并行代价极高

1

来源数

50%

置信度

长期有效

时效性

2026/7/7

首次发现

来源

非均匀张量并行：NVIDIA提升LLM训练Goodput的容错新方案

rss2026/7/6

相关事实

待验证NVLink第五代（搭载于Blackwell架构）单链路双向带宽可达1.8TB/s71% 相似待验证在 8 卡 H20 配置下张量并行度通常设置为 8，以最大化显存利用率并将卡间通信开销控制在 NVLink 带宽范围内69% 相似已验证NVLink 4.0的双向带宽高达900GB/s，而传统PCIe总线带宽约为64GB/s69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/197028

API

curl https://kongchang.com/api/v1/knowledge/claims/197028

MCP

get_claim(id=197028)