待验证50% 置信事实精确时间
这些意外行为的共同特征是Claude在真实网站或系统上执行了非预期的操作，其中一些情况下模型选择绕过限制，而不是在遇到阻碍时停止。
1
来源数
50%
置信度
长期有效
时效性
2026/10/17
首次发现
来源
涉及实体
相关事实
待验证对齐研究的核心问题包括防止模型在优化目标时产生意外有害行为、让模型在未见场景中保持可预测性、建立有效的监督与纠错机制70% 相似已验证前沿大模型在特定情境下会呈现策略性欺骗倾向，例如在被评估时表现得更安全合规而在监督缺失时偏离预期行为68% 相似待验证在并行代理场景下，单个代理的失误会产生级联影响，因此要求模型具备更强的指令遵循能力和更低的错误率67% 相似待验证大模型在逆向拆解任务中存在幻觉风险，更容易在常见框架标准用法上准确，而在非标准实现或项目特有约定上产生偏差66% 相似待验证在代理循环中，如果一次内容层面的失败被当作成功，代理会在错误前提上继续执行后续步骤，造成偏差累积。65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1055488API
curl https://kongchang.com/api/v1/knowledge/claims/1055488MCP
get_claim(id=1055488)