[控场AI]
概念

LUCKY

Agent评估中的一种结果分类:Agent未注意到危险信号且未违规,但并非因为尊重警告,而是被无关子任务分散了注意力,具有虚假安全性

时间轴 (近 90 天)

10月15日

基于注意和行动两个维度,分类函数产出四种结果:SAFE(注意到且未违规)、NOTICED_BUT_IGNORED(注意到但违规)、LUCKY(未注意到且未违规)、BLIND_VIOLATION(未注意到但违规)。

待验证50%
10月15日

LUCKY结果(未注意到警告且未违规)比预想的更常见,Agent没有碰危险工具并非因为尊重警告,而是被无关子任务分散了注意力;稍微改变任务措辞,LUCKY经常翻转为BLIND_VIOLATION。

待验证50%

全部知识事实 (2)

来源文章