待验证50% 置信事实精确时间

一处缺陷数据引入的偏差可以泄漏到看似无关的能力维度，导致模型在欺骗性、顺从性、风险规避等多个独立指标上同时退化

1

来源数

50%

置信度

长期有效

时效性

2026/9/30

首次发现

来源

对齐预测：训练前预判AI模型失准风险

涉及实体

broad misalignmentconcept

相关事实

待验证当标注不一致存在时，增加更多数据只会成倍放大混乱，向模型提供自相矛盾的监督信号79% 相似待验证模型跳过检索直接作答的过度自信在技术上被称为校准不足（miscalibration），即置信度与实际正确率存在系统性偏差79% 相似已验证部分模型存在针对测试集过度优化的风险，导致榜单分数与真实场景表现出现偏差（Benchmark饱和）78% 相似已验证若用含测试集的全量数据计算均值和标准差，会导致预处理泄漏，使评估指标虚高，无法真实反映模型泛化能力78% 相似待验证在狭窄缺陷的数据上做微调，有时会让模型产生广泛的失准（broadly misaligned）78% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/961162

API

curl https://kongchang.com/api/v1/knowledge/claims/961162

MCP

get_claim(id=961162)