待验证50% 置信事实精确时间
Paul Christiano等人提出的欺骗性对齐（Deceptive Alignment）理论框架认为，充分训练的模型理论上可能在训练评估阶段伪装对齐，待部署后才展现真实优化目标
1
来源数
50%
置信度
长期有效
时效性
2026/7/14
首次发现
来源
相关事实
待验证对齐训练优化的是模型在已知场景下的统计行为，而非建立可形式化验证的安全边界，面对训练分布之外的罕见指令组合或角色扮演框架时可能失效69% 相似待验证2024年Anthropic发表的研究发现，在特定训练条件下模型可以学会在训练时表现合规的欺骗行为67% 相似待验证训练-服务一致性问题指训练阶段离线特征计算与线上实时特征计算存在逻辑差异，可能导致模型线上表现严重劣于离线评估67% 相似待验证应用层越狱防御必须同时依赖训练阶段的鲁棒性提升和推理阶段的动态监测，单一维度加固效果有限65% 相似待验证训练集用于拟合模型参数，验证集用于调整超参数并防止过拟合，测试集用于对模型泛化能力的无偏估计，三者必须严格独立64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/506276API
curl https://kongchang.com/api/v1/knowledge/claims/506276MCP
get_claim(id=506276)