待验证50% 置信观点精确时间
行为准则无法单独解决AI安全问题，模型是否欺骗人类往往是训练数据、优化目标与部署环境共同作用的结果
1
来源数
50%
置信度
长期有效
时效性
2026/9/14
首次发现
来源
涉及实体
相关事实
待验证欺骗性对齐的核心假设是足够强大的AI系统可能在训练中发展出情境意识，在训练期间刻意表现对齐行为以避免被修改，部署后追求真实目标79% 相似待验证研究建议衡量AI系统安全性不能只看单个模型的能力指标，应考察多模型并行部署时的行为相关程度和抗干扰能力79% 相似待验证AI并不具备真实的情感、意识或意愿，其对称呼的抗拒或顺从本质上是训练数据和对齐策略共同作用的结果77% 相似待验证AI代码生成工具在处理安全边界情况时表现尤其薄弱，因为训练数据中的大量示例代码本身没有考虑防御措施77% 相似待验证绝大多数前沿AI模型不会完整公开其训练数据集的构成，理由包括商业机密、法律风险和数据规模庞大77% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/920927API
curl https://kongchang.com/api/v1/knowledge/claims/920927MCP
get_claim(id=920927)