[控场AI]
概念adversarial knowledge

对抗知识

对抗知识指攻击者在实施成员推理攻击时对目标模型或数据分布所掌握的先验信息,通常包括模型架构、超参数、训练算法、输出置信度分布,甚至部分影子模型的训练数据。根据知识程度的不同,攻击可分为白盒、灰盒与黑盒三类。

时间轴 (近 90 天)

10月14日

实验结果显示,高级MIA方法高度依赖对目标模型的对抗性知识(如模型结构、训练超参数或输出置信度分布),当这些知识受限时,攻击效果明显下降。

待验证50%
10月14日

对抗知识指攻击者在实施MIA时对目标模型或数据分布所掌握的先验信息,通常包括模型架构、超参数、训练算法、输出置信度分布,甚至部分影子模型的训练数据。

待验证50%

全部知识事实 (2)

来源文章