待验证50% 置信事实精确时间
损失相关性指训练过程中两条损失曲线之间的皮尔逊相关系数,0.99 意味着在每个训练步上 NPU 侧损失值与 GPU 侧几乎同步起伏。
1
来源数
50%
置信度
长期有效
时效性
2026/10/16
首次发现
来源
VKORE:仅推理NPU跑通大模型预训练,损失相关性达0.99
rss2026/10/16
涉及实体
相关事实
待验证三代模型的预训练验证损失呈稳定下降趋势:2.87→2.78→2.5977% 相似待验证研究团队在完全相同的初始化、数据和学习率调度条件下,分别在32芯片NPU和GPU上从零训练了同一个模型,两条损失曲线的皮尔逊相关系数达到0.99。76% 相似待验证损失轨迹相关系数通常指Pearson相关系数,0.99意味着两条曲线几乎完全同向变动,但相关系数不反映绝对差异,即使存在固定偏移量仍可接近1。75% 相似待验证整个训练过程中,flow-matching 损失仅从 0.805 缓慢下降到 0.75472% 相似待验证在接近1000亿token的训练规模下,多项式版本与原生实现的最终平滑训练损失差异落在-0.107到+0.079之间72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1044253API
curl https://kongchang.com/api/v1/knowledge/claims/1044253MCP
get_claim(id=1044253)