待验证60% 置信事实时间未知

在千卡规模下，一次AllReduce的延迟可能占到单步训练时间的30%以上

1

来源数

60%

置信度

长期有效

时效性

2026/6/1

首次发现

来源

NCCL Inspector详解：GPU集群通信实时监控与Prometheus集成实践

rss

涉及实体

AllReduceconcept

相关事实

待验证仅调整 num_workers、pin_memory、prefetch_factor 三个 DataLoader 参数，相同 2000 步训练耗时从 633 秒降至 358 秒，运行时间缩短 43%74% 相似待验证在大模型训练中，通信开销往往占到总训练时间的30%以上71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/21161

API

curl https://kongchang.com/api/v1/knowledge/claims/21161

MCP

get_claim(id=21161)