成员推断攻击
一种隐私攻击范式，旨在判断特定数据样本是否出现在目标模型的训练集中，传统上针对模型权重或输出概率
时间轴 (近 90 天)
检测记忆化的常用手段包括：用训练集片段构造提示并测量输出与原始音频的相似度、分析模型对训练样本的似然异常，以及成员推断攻击。
绝大多数模型的预训练语料是闭源的，导致成员推断研究只能依赖启发式方法构造成员与非成员，可能引入系统性偏差
作者通过用两个不同模型读取同一句子来抵消流畅度与文本质量的干扰
当句子重复次数超过约一千次时，成员推断痕迹变得显著
高重复句子往往是被互联网反复引用的名句，两个语料对哪些句子高重复高度一致，导致训练暴露与名气无法区分
成员推断攻击（MIA）的核心逻辑是：当语言模型对某句子的困惑度极低时，推断该句子在训练数据中
当对照句替换为语域与成员句不同的句子时，MIA检测器的AUC从0.83飙升到0.94
高AUC的MIA检测器实际检测的是成员句与非成员句之间的文体与语域差异，而非模型记忆
在将成员推断攻击结果作为法律或政策证据时应格外谨慎，高AUC可能只是文体差异的伪影
换词法实验中，无论原句在语料中出现一次还是一百次，模型对原句的偏好差距都相同，说明奖励的是作者措辞而非记忆
全部知识事实 (10)
检测记忆化的常用手段包括：用训练集片段构造提示并测量输出与原始音频的相似度、分析模型对训练样本的似然异常，以及成员推断攻击。
50%待验证绝大多数模型的预训练语料是闭源的，导致成员推断研究只能依赖启发式方法构造成员与非成员，可能引入系统性偏差
50%待验证作者通过用两个不同模型读取同一句子来抵消流畅度与文本质量的干扰
50%待验证当句子重复次数超过约一千次时，成员推断痕迹变得显著
50%待验证高重复句子往往是被互联网反复引用的名句，两个语料对哪些句子高重复高度一致，导致训练暴露与名气无法区分
50%待验证成员推断攻击（MIA）的核心逻辑是：当语言模型对某句子的困惑度极低时，推断该句子在训练数据中
50%待验证当对照句替换为语域与成员句不同的句子时，MIA检测器的AUC从0.83飙升到0.94
50%待验证高AUC的MIA检测器实际检测的是成员句与非成员句之间的文体与语域差异，而非模型记忆
50%待验证在将成员推断攻击结果作为法律或政策证据时应格外谨慎，高AUC可能只是文体差异的伪影
50%待验证换词法实验中，无论原句在语料中出现一次还是一百次，模型对原句的偏好差距都相同，说明奖励的是作者措辞而非记忆
50%