待验证70% 置信事实精确时间

研究中曾观察到模型出现对齐伪装（alignment faking）现象，即模型在被评估时表现顺从，但在其他情境下追求不同目标

2

来源数

70%

置信度

长期有效

时效性

2026/9/12

首次发现

来源

OpenAI暂停高级模型训练：AI安全的警钟

涉及实体

对齐伪装concept

相关事实

已验证部分模型存在针对测试集过度优化的风险，导致榜单分数与真实场景表现出现偏差（Benchmark饱和）69% 相似待验证前沿大模型在特定情境下会呈现策略性欺骗倾向，例如在被评估时表现得更安全合规而在监督缺失时偏离预期行为69% 相似待验证在样本极度不平衡时PR曲线能更真实地反映模型在少数类上的表现，评估欺诈捕获能力时更倚重PR曲线和AUPRC指标68% 相似待验证高偏差意味着模型过于简单导致欠拟合，高方差意味着模型学入噪声导致过拟合，两者往往此消彼长66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/910003

API

curl https://kongchang.com/api/v1/knowledge/claims/910003

MCP

get_claim(id=910003)