已验证65% 置信基准精确时间

三代模型的预训练验证损失呈稳定下降趋势：2.87→2.78→2.59

3

来源数

65%

置信度

长期有效

时效性

2026/8/29

首次发现

来源

750美元从零训练3个LLM：一位开发者的实战复盘

涉及实体

val lossconcept

相关事实

待验证损失相关性指训练过程中两条损失曲线之间的皮尔逊相关系数，0.99 意味着在每个训练步上 NPU 侧损失值与 GPU 侧几乎同步起伏。77% 相似待验证在接近1000亿token的训练规模下，多项式版本与原生实现的最终平滑训练损失差异落在-0.107到+0.079之间77% 相似待验证整个训练过程中，flow-matching 损失仅从 0.805 缓慢下降到 0.75475% 相似待验证在多轮训练模式下，整体提交校准误差下降63%–68%75% 相似待验证课程训练过程中损失值从大约3.36下降到0.32左右74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/819747

API

curl https://kongchang.com/api/v1/knowledge/claims/819747

MCP

get_claim(id=819747)