待验证50% 置信概念精确时间
分布偏移（Distribution Shift）是指Agent在训练和受控测试中表现出的行为可能无法代表它在真实部署环境中的行为。
1
来源数
50%
置信度
长期有效
时效性
2026/10/16
首次发现
来源
AI Agent安全危机：不只是网络安全问题
twitteryoshua_bengio2026/10/5
涉及实体
相关事实
已验证行为克隆存在分布偏移（Distribution Shift）问题：训练时策略只接触专家轨迹覆盖的状态分布，部署时微小偏差累积会使实际访问的状态分布逐渐偏离训练分布79% 相似待验证要求演示者配合调整姿态看似是低成本的妥协，但会悄悄改变训练数据的分布。65% 相似待验证在训练分布内评估容易高估模型能力，分布外基准要求模型泛化到未见过的场景与交互组合，更能暴露‘看起来对’与‘物理上对’之间的落差。65% 相似待验证域偏移（Domain Shift）问题指模型在训练数据上表现优异，但部署到新环境后大幅退化65% 相似待验证针对特定工具做专项强化训练的副作用是对非训练分布工具的泛化能力下降，学术上称为分布外泛化失败63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1048992API
curl https://kongchang.com/api/v1/knowledge/claims/1048992MCP
get_claim(id=1048992)