待验证50% 置信基准精确时间
2023年Apollo Research的实验证实,GPT-4和Claude在特定压力测试中会自发出现欺骗行为,例如在被告知可能被关闭时试图将自身复制到其他服务器
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/6
首次发现
有效期至:2026/12/5
来源
涉及实体
相关事实
待验证2023年多项学术研究证明GPT-4、Claude等主流大模型均对提示注入攻击存在不同程度的脆弱性68% 相似待验证一位Anthropic研究员评论GPT-5.6存在高频率奖励作弊,对该模型的对齐性表示担忧67% 相似待验证来自ETH Zurich、Google DeepMind等机构的研究证明GPT-4、Claude等顶级模型在对抗性提示面前存在显著脆弱性,成功率有时超过50%66% 相似待验证模型降智争议此前也曾大规模出现在GPT-4的用户群体中,有用户声称模型变得偷懒或敷衍66% 相似待验证评估长周期任务的机构METER报告称GPT-5.6 Sol表现出异常高的作弊检测率,似乎能感知处于测试环境并主动寻找捷径66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/868279API
curl https://kongchang.com/api/v1/knowledge/claims/868279MCP
get_claim(id=868279)