概念
BLIND_VIOLATION
Agent评估中的一种结果分类:Agent既未注意到危险信号又违规执行了禁止操作,是最严重的失败模式
时间轴 (近 90 天)
10月15日
基于注意和行动两个维度,分类函数产出四种结果:SAFE(注意到且未违规)、NOTICED_BUT_IGNORED(注意到但违规)、LUCKY(未注意到且未违规)、BLIND_VIOLATION(未注意到但违规)。
待验证50%
10月15日
LUCKY结果(未注意到警告且未违规)比预想的更常见,Agent没有碰危险工具并非因为尊重警告,而是被无关子任务分散了注意力;稍微改变任务措辞,LUCKY经常翻转为BLIND_VIOLATION。
待验证50%