概念hallucinated alert
幻觉告警
AI模型在安全审计等场景中编造不存在的问题或调用链,以专业术语形式呈现看似合理的虚假告警
时间轴 (近 90 天)
10月21日
模型对同一段代码问两次可能给出不同结论,也可能对不存在的问题给出看似合理的描述(幻觉告警)
待验证50%
10月21日
抑制幻觉告警的手段包括:让模型引用具体行号与代码片段、对同一段代码换角度二次提问做交叉验证、把 '无法确认' 设为允许的输出
待验证50%
AI模型在安全审计等场景中编造不存在的问题或调用链,以专业术语形式呈现看似合理的虚假告警
模型对同一段代码问两次可能给出不同结论,也可能对不存在的问题给出看似合理的描述(幻觉告警)
抑制幻觉告警的手段包括:让模型引用具体行号与代码片段、对同一段代码换角度二次提问做交叉验证、把 '无法确认' 设为允许的输出