[控场AI]
概念GuardBreaker攻击 / 防御性拒绝型提示词注入

GuardBreaker

一种针对AI辅助安全分析工具的提示词注入攻击技术,通过在恶意代码中嵌入触发LLM安全拒绝机制的内容,使分析工具无法完成对恶意代码的分析,属于"防御性拒绝型"越狱攻击变体

时间轴 (近 90 天)

10月11日

研究人员将一种在恶意VBScript中嵌入核武器制造说明提示词、以触发LLM安全拒绝机制从而停止分析恶意逻辑的技术称为GuardBreaker

待验证50%
10月11日

GuardBreaker是一种防御性而非进攻性的越狱攻击,目的是触发模型拒绝而非提取危险信息

待验证50%
10月11日

GuardBreaker本质上是针对分析师工具的拒绝服务(DoS)攻击,伪装成安全触发器,并且因为模型安全训练做得好而奏效

待验证50%
10月11日

传统杀毒软件和基于YARA规则的扫描器无法检测GuardBreaker,因为没有可匹配的文件哈希或已知签名,攻击针对的是SOC流程中的人在回路AI工具而非终端

待验证50%
10月11日

作者并未用该具体VBScript样本实际测试,报道中也没有给出确切的载荷文本

待验证50%

全部知识事实 (5)

来源文章