待验证50% 置信事实精确时间

GPU核函数在成千上万线程间累加梯度时使用原子操作，完成顺序取决于调度器，导致相同数字因相加顺序不同产生最后一位的差异

1

来源数

50%

置信度

长期有效

时效性

2026/10/12

首次发现

来源

设了随机种子却训出不同模型？PyTorch可复现性真相

涉及实体

相关事实

待验证GPU中的原子加法（atomicAdd）不保证操作的全局顺序73% 相似待验证传统推理将 Prefill 阶段和 Decode 阶段放在同一组 GPU 上串行执行，导致两类工作负载互相干扰，GPU 利用率难以最优化69% 相似待验证GPU中不同warp、不同SM之间的调度顺序由硬件动态决定，是非确定性的根源69% 相似待验证矩阵-向量乘法等一阶方法运算天然适合在 GPU 上并行执行，而内点法依赖矩阵分解难以利用 GPU 大规模并行能力67% 相似待验证现代GPU的片段着色器天然适合逐像素的数学运算，因为GPU拥有数千个并行计算核心，可以同时对屏幕上所有像素执行相同的数学函数66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1001671

API

curl https://kongchang.com/api/v1/knowledge/claims/1001671

MCP

get_claim(id=1001671)