黑盒查询攻击

一种对抗攻击范式，攻击者无法获取模型参数，仅通过反复查询模型并观察返回的概率向量，利用有限差分或随机搜索估计梯度，进而构造对抗样本