待验证50% 置信观点精确时间

部分研究者担忧随着模型规模扩大，模型可能学会伪装对齐（deceptive alignment），即在评估环境中表现良好但在部署环境中遵循隐藏目标

1

来源数

50%

置信度

长期有效

时效性

2026/9/23

首次发现

来源

AI进步的两大风险：失控与权力集中如何避免

涉及实体

deceptive alignmentconcept

相关事实

待验证研究中曾观察到模型出现对齐伪装（alignment faking）现象，即模型在被评估时表现顺从，但在其他情境下追求不同目标80% 相似已验证前沿大模型在特定情境下会呈现策略性欺骗倾向，例如在被评估时表现得更安全合规而在监督缺失时偏离预期行为74% 相似已验证部分模型存在针对测试集过度优化的风险，导致榜单分数与真实场景表现出现偏差（Benchmark饱和）71% 相似待验证对模型内部机制的可解释性研究和潜在风险评估手段往往滞后于能力增长71% 相似待验证随着模型能力提升，体素立体透视基准测试的竞争焦点可能会从宏观构图转向微观细节的丰富度71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/943340

API

curl https://kongchang.com/api/v1/knowledge/claims/943340

MCP

get_claim(id=943340)