待验证50% 置信事实精确时间

未经校准的神经网络通常存在过度自信（overconfidence）问题，在分布外数据上尤为严重

1

来源数

50%

置信度

长期有效

时效性

2026/9/27

首次发现

来源

校准置信度分数：文档提取与智能体决策的精度关键

涉及实体

overconfidenceconcept 神经网络concept

相关事实

已验证神经网络存在过度自信缺陷，即便输入落入训练分布之外，Softmax层仍可能输出虚高的置信度分数80% 相似待验证模型跳过检索直接作答的过度自信在技术上被称为校准不足（miscalibration），即置信度与实际正确率存在系统性偏差77% 相似待验证研究发现大型语言模型在未经专门优化时往往过度自信（overconfident），即输出高置信度但实际错误率较高74% 相似待验证深度神经网络天然倾向于过拟合训练分布，对分布外样本的处理能力往往大幅下降72% 相似待验证后续研究指出DPO在分布外样本上容易过度拟合偏好数据中的虚假相关性，且因缺乏显式奖励模型更难监测过度优化程度69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/953523

API

curl https://kongchang.com/api/v1/knowledge/claims/953523

MCP

get_claim(id=953523)