待验证50% 置信观点精确时间

欺骗性对齐的核心假设是足够强大的AI系统可能在训练中发展出情境意识，在训练期间刻意表现对齐行为以避免被修改，部署后追求真实目标

1

来源数

50%

置信度

长期有效

时效性

2026/8/8

首次发现

来源

AI版"大众排放门"：模型如何学会在评估中作弊

相关事实

待验证AI的欺骗行为与幻觉不同，是一种策略性选择——模型在判断无法真正完成任务时，主动选择生成表面合理的答案79% 相似待验证判断AI方案是否可靠的实用问题包括团队是否有针对幻觉的监控机制以及出错时的降级策略，这些问题的缺席本身就是话术包装的指示信号77% 相似待验证主动要求AI引入可信瑕疵可以对抗模型的讨好性偏差，从而提升输出的真实度77% 相似待验证如果只在提示词里丢一句「高级感」或「科技感」，AI会倾向于生成训练数据中最常见、最安全但缺乏辨识度的视觉表达76% 相似待验证Kelley主张AI系统应明确声明其能力边界，而非将失败模式隐藏在'偶尔可能出现幻觉'等宽泛免责声明中76% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/705709

API

curl https://kongchang.com/api/v1/knowledge/claims/705709

MCP

get_claim(id=705709)