[控场AI]
概念hallucinated alert

幻觉告警

AI模型在安全审计等场景中编造不存在的问题或调用链,以专业术语形式呈现看似合理的虚假告警

时间轴 (近 90 天)

10月21日

模型对同一段代码问两次可能给出不同结论,也可能对不存在的问题给出看似合理的描述(幻觉告警)

待验证50%
10月21日

抑制幻觉告警的手段包括:让模型引用具体行号与代码片段、对同一段代码换角度二次提问做交叉验证、把 '无法确认' 设为允许的输出

待验证50%

全部知识事实 (2)

来源文章