待验证50% 置信事实精确时间

最大似然估计训练目标等价于最小化模型分布与训练数据经验分布之间的KL散度

1

来源数

50%

置信度

长期有效

时效性

2026/7/9

首次发现

来源

元认知反馈：用强化学习让大模型准确表达不确定性

hackernewshackernews2026/7/7

相关事实

待验证批次归一化在训练模式使用当前批次统计量，在推理模式使用训练过程中累积的移动平均值78% 相似已验证通过更高质量的训练数据、更优化的训练策略和更精细的后训练对齐，较小规模的模型可以在实际任务上完全超越规模更大但训练质量较低的模型77% 相似待验证小模型通过知识蒸馏通常比直接在标注数据上训练精度高出2-5个百分点75% 相似待验证Keskar等人在2017年的研究表明大批量训练往往收敛到尖锐极小值对应更差泛化，小批量训练倾向于平坦极小值74% 相似待验证参数量相似的情况下，训练数据质量分布的差异往往比架构差异更能决定特定场景的表现上限73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/319108

API

curl https://kongchang.com/api/v1/knowledge/claims/319108

MCP

get_claim(id=319108)