待验证50% 置信事实精确时间

与AllReduce不同，All-to-All的流量模式高度不规则且难以预测，负载均衡偏差会出现热点

1

来源数

50%

置信度

长期有效

时效性

2026/10/4

首次发现

来源

AMD RCCL GPU发起网络集成TorchTitan：MoE通信性能提升15%

涉及实体

All-to-Allconcept AllReduceconcept

相关事实

待验证大模型请求流量往往具有明显的峰谷特征，固定预留算力会造成低谷期浪费，算力不足会在高峰期导致延迟飙升64% 相似待验证多步推理意味着多次模型调用，在真实流量下token消耗和响应延迟会呈非线性增长61% 相似待验证指数退避让每次重试之间的等待时间逐渐拉长，随机抖动在退避时间上叠加随机偏移以削平流量尖峰61% 相似待验证反向模式一次反向传播就能同时获得损失对所有参数的梯度,复杂度仅为前向计算的常数倍（通常 2-4 倍）61% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/972919

API

curl https://kongchang.com/api/v1/knowledge/claims/972919

MCP

get_claim(id=972919)