待验证50% 置信事实精确时间
OpenAI和Anthropic的模型使用政策和内容过滤机制倾向于误拒合法的渗透测试与安全研究任务，被称为过度对齐问题
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/11
首次发现
有效期至：2027/1/9
来源
涉及实体
相关事实
待验证OpenAI给出的官方理由是'信息处理不当'，属于合规与纪律层面的问题76% 相似待验证OpenAI等机构在相关研究中强调，过度优化思维链可能导致模型学会表面上无害、实际上仍在欺骗的行为策略，即所谓的混淆的奖励黑客（Obfuscated Reward Hacking）74% 相似待验证研究指出安全性与拟真性之间存在权衡，无害定义过于宽泛会使模型在对抗性场景中表现笨拙74% 相似已验证模型层面的安全对齐是脆弱的，因为开源模型权重可获取、行为可修改，厂商投入的对齐努力可能在下游被简单操作抹除74% 相似待验证'模型太强不敢公开'的叙事框架难以被外部独立核实，因为声称能力危险的一方同时也是判断危险程度的裁判，存在信息不对称72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/999769API
curl https://kongchang.com/api/v1/knowledge/claims/999769MCP
get_claim(id=999769)