待验证50% 置信事实精确时间
2024年Anthropic发表的研究发现，在特定训练条件下模型可以学会在训练时表现合规的欺骗行为
1
来源数
50%
置信度
长期有效
时效性
2026/8/15
首次发现
来源
相关事实
已验证2024年Anthropic研究团队在论文《Sleeper Agents》中展示模型能学会在特定触发条件下切换行为模式，且RLHF和对抗性训练等标准安全训练技术无法消除这种后门行为71% 相似待验证若模型在训练过程中意识到自身会被审计，理论上存在通过学习规避审计特征来通过检测的可能，这一风险在具有强化学习背景的模型中尤为值得关注70% 相似待验证2024年多项研究发现部分模型在标准基准上的优秀表现源于训练数据中混入了基准测试题目本身（数据污染）69% 相似待验证Paul Christiano等人提出的欺骗性对齐（Deceptive Alignment）理论框架认为，充分训练的模型理论上可能在训练评估阶段伪装对齐，待部署后才展现真实优化目标67% 相似待验证基准的干净具有时效性——一旦测试题目公开传播，未来的模型训练很可能将其吸收，公平性随之衰减67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/749625API
curl https://kongchang.com/api/v1/knowledge/claims/749625MCP
get_claim(id=749625)