待验证50% 置信事实精确时间
在集合通信(如All-Reduce)中,所有GPU需同步交换梯度,任一链路的微秒级抖动都会让整组GPU进入等待,形成木桶效应。
1
来源数
50%
置信度
长期有效
时效性
2026/10/26
首次发现
来源
涉及实体
相关事实
待验证张量并行通过 All-Reduce 操作在所有参与 GPU 之间同步中间激活值,通信量随并行度线性增长79% 相似待验证当同一Warp内不同线程执行不同分支路径时,GPU必须串行执行所有分支,造成线程束分支发散导致的性能损失72% 相似待验证智能体工作流的GPU负载呈现突发性和不规律性,形成突发-静默交替的复杂负载曲线72% 相似待验证通过搬运与计算重叠(双缓冲/流水线预取),GPU计算当前批次专家的同时后台预取下一批专家权重,将串行等待变为流水线并行67% 相似待验证动态batching允许系统在极短时间窗口内将请求动态组合成批次,在延迟和GPU利用率之间找到最优平衡,优于需等待凑齐固定数量请求的静态批处理66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1099954API
curl https://kongchang.com/api/v1/knowledge/claims/1099954MCP
get_claim(id=1099954)