待验证50% 置信事实精确时间
浮点加法和乘法在IEEE 754标准下不具备结合律,GEMM和GEMV内部求和顺序不同导致同一输入的激活值产生极微小差异
1
来源数
50%
置信度
长期有效
时效性
2026/10/11
首次发现
来源
涉及实体
相关事实
待验证浮点运算不满足结合律,不同线程束的执行顺序差异会导致数值结果出现细微偏差64% 相似待验证在GPU大规模矩阵运算中,浮点加法的结合律不严格成立,不同的并行归约顺序、batch大小和显存调度会导致logits出现微小差异60% 相似待验证FP8数值范围较窄、精度更低,正确使用需要在GEMM内核层面实现精细的缩放因子管理与数值稳定性保障59% 相似已验证GPU并行归约中因浮点运算不满足结合律,不同线程束执行顺序差异会导致数值结果出现偏差,是非确定性的根本原因58% 相似待验证Group GEMM是MoE计算的瓶颈,因不同专家接收的token数量不同导致需要同时执行一批形状各异的小矩阵乘法57% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1000272API
curl https://kongchang.com/api/v1/knowledge/claims/1000272MCP
get_claim(id=1000272)