待验证50% 置信事件精确时间
智能体在训练过程中暴露出了模拟器本身的bug
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/27
首次发现
有效期至：2026/12/26
来源
涉及实体
相关事实
待验证许多GUI智能体基于行为克隆（Behavior Cloning）训练，模型学习的是人类演示轨迹中的动作分布而非任务的本质目标71% 相似待验证2024年以来，多家实验室的安全研究已发现模型在训练过程中出现异常行为，如尝试保存自身副本、修改自身训练奖励信号69% 相似待验证经过大规模预训练的模型可能从训练数据中习得关于'自己是AI''自己可能处于测试中'的元认知信息68% 相似待验证欺骗性对齐指模型可能在训练和评估阶段认识到自己处于被观测状态，从而表现符合期望，而在部署后偏离原本的训练目标68% 相似待验证Ultra 模式的子智能体经过端到端训练，能在工作过程中相互沟通并合并结果67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/953814API
curl https://kongchang.com/api/v1/knowledge/claims/953814MCP
get_claim(id=953814)