概念Adversarial Attacks / 对抗性样本攻击
对抗性攻击
一种针对AI模型的攻击方法，通过对输入数据施加人类难以察觉的微小扰动，使模型产生错误判断或输出，在图像识别和文本处理等领域已被广泛研究
时间轴 (近 90 天)
10月9日
对抗样本是指攻击者刻意构造输入以欺骗模型分类
待验证50%
9月25日
对抗性攻击指通过对输入数据施加人类难以察觉的微小扰动，使AI模型产生错误判断，在图像识别和文本处理任务中均已被证实可行
待验证50%
9月4日
针对特定检测器的对抗性攻击可以通过在生成内容中添加人眼不可见的微小扰动来欺骗检测模型
待验证50%