[控场AI]
概念MIA / Membership Inference Attack

成员推理攻击

隐私审计领域的经典攻击范式,通过分析模型在训练集样本与非训练样本上的行为差异(如损失值、置信度),推断某个数据样本是否出现在模型训练集中

时间轴 (近 90 天)

10月30日

成员推理攻击(MIA)用于检测某张图像是否属于扩散模型的训练集。

待验证50%
10月30日

传统基于重建损失的成员推理方法将低损失图像标记为成员,但常因图像固有易重建性而失效。

待验证50%
10月14日

自2017年Shokri等人提出针对机器学习模型的成员推理攻击框架以来,MIA已成为隐私评估的核心基准之一。

待验证50%
10月14日

类别粒度更高、多数类样本占比更大的数据集更容易受到成员推理攻击。

待验证50%
10月13日

成员推断攻击是指攻击者通过观察模型对特定样本的输出(如置信度、预测概率),推断该样本是否曾参与模型训练;典型信号是模型对训练样本的置信度显著高于非训练样本。

待验证50%

全部知识事实 (5)

来源文章