#黑盒攻击

扩散语言模型如何提升黑盒攻击的隐蔽性

论文提出用扩散语言模型替换随机映射，使黑盒攻击提示的字符级困惑度从10^3-10^7降至3-5，大幅提升隐蔽性，并揭示风险估计可能相差一个数量级。