概念Distribution Shift / 数据分布漂移
分布漂移
指模型在训练阶段与生产部署阶段所面对的数据分布发生偏移,导致模型在真实环境中表现退化,是AI Agent在线评估中需要重点监控的问题之一。
时间轴 (近 90 天)
9月11日
分布偏移是指训练环境与部署环境之间的统计分布差异,是虚假相关性导致性能崩溃的直接机制
待验证50%
9月8日
请求分布会随业务变化漂移(分布漂移),需建立持续评估闭环,包括定期人工评估、A/B实验框架、成本和质量告警机制
待验证50%
7月5日
行为克隆存在分布偏移(Distribution Shift)问题,模型在训练分布外状态下容易犯错并累积误差,机器人控制领域称为复合误差
待验证50%