[控场AI]
概念behavior drift

行为漂移

AI Agent运行时行为倾向的渐进性偏移,表现为工具调用、参数选择、决策路径等行为模式与既定基线的偏离,通常无报错或告警,仅体现为下游任务成功率缓慢下滑。

时间轴 (近 90 天)

10月16日

行为漂移(drift)指注入新知识后,模型在原本已经掌握的任务或无关提示上的输出分布发生变化,通常用保留的通用提示词来测量。

待验证50%
10月14日

传统监控指标(如可用性和延迟)无法直接发现 AI Agent 的行为漂移。

待验证50%
10月14日

行为漂移的来源包括上游模型供应商静默更新权重、prompt 模板改动、工具返回数据分布变化、上下文长度触及截断阈值等。

待验证50%
10月14日

行为漂移是渐进的,通常可能在业务指标显现前已累积数周的劣化样本。

待验证50%
10月14日

AI Agent 的行为漂移通常不伴随报错或告警,只表现为下游任务成功率的缓慢下滑。

待验证50%
10月14日

多 Agent 系统中行为漂移的误差会沿协作链传播并逐级放大,导致症状出现在链路末端而根因可能在最初一环。

待验证50%
10月14日

行为漂移监测应纳入发布流程,在 prompt、模型版本或工具变更后主动跑一次对照。

待验证50%
10月14日

行为漂移长期缺少统一的量化标准,更多依赖轨迹级的结构化对比。

待验证50%

全部知识事实 (8)

来源文章