行为漂移
AI Agent运行时行为倾向的渐进性偏移,表现为工具调用、参数选择、决策路径等行为模式与既定基线的偏离,通常无报错或告警,仅体现为下游任务成功率缓慢下滑。
时间轴 (近 90 天)
行为漂移(drift)指注入新知识后,模型在原本已经掌握的任务或无关提示上的输出分布发生变化,通常用保留的通用提示词来测量。
传统监控指标(如可用性和延迟)无法直接发现 AI Agent 的行为漂移。
行为漂移的来源包括上游模型供应商静默更新权重、prompt 模板改动、工具返回数据分布变化、上下文长度触及截断阈值等。
行为漂移是渐进的,通常可能在业务指标显现前已累积数周的劣化样本。
AI Agent 的行为漂移通常不伴随报错或告警,只表现为下游任务成功率的缓慢下滑。
多 Agent 系统中行为漂移的误差会沿协作链传播并逐级放大,导致症状出现在链路末端而根因可能在最初一环。
行为漂移监测应纳入发布流程,在 prompt、模型版本或工具变更后主动跑一次对照。
行为漂移长期缺少统一的量化标准,更多依赖轨迹级的结构化对比。
全部知识事实 (8)
行为漂移(drift)指注入新知识后,模型在原本已经掌握的任务或无关提示上的输出分布发生变化,通常用保留的通用提示词来测量。
50%待验证传统监控指标(如可用性和延迟)无法直接发现 AI Agent 的行为漂移。
50%待验证行为漂移的来源包括上游模型供应商静默更新权重、prompt 模板改动、工具返回数据分布变化、上下文长度触及截断阈值等。
50%待验证行为漂移是渐进的,通常可能在业务指标显现前已累积数周的劣化样本。
50%待验证AI Agent 的行为漂移通常不伴随报错或告警,只表现为下游任务成功率的缓慢下滑。
50%待验证多 Agent 系统中行为漂移的误差会沿协作链传播并逐级放大,导致症状出现在链路末端而根因可能在最初一环。
50%待验证行为漂移监测应纳入发布流程,在 prompt、模型版本或工具变更后主动跑一次对照。
50%待验证行为漂移长期缺少统一的量化标准,更多依赖轨迹级的结构化对比。
50%