概念shuffling / 向量混淆
向量顺序打乱
隐私防御技术,保持向量内容不变仅随机化索引中排列次序,试图隐藏补丁空间布局,但可被专门恢复顺序的模型逆转,被视为安全幻觉。
时间轴 (近 90 天)
10月13日
token 池化和向量顺序打乱两种防御都能把文字召回率压到约 8%。
待验证50%
10月13日
针对顺序打乱,一个专门恢复顺序的模型可以将'来源页排第一'的比例从 3.8% 提升到 93.5%,几乎回到未防御时的水平。
待验证50%
10月13日
池化版本虽仍可被反演,但文字召回率维持在低位,实际泄露风险明显低于顺序打乱。
待验证50%
10月13日
论文明确指出仅靠混淆向量顺序的防御可以被适度规模的学习模型逆转。
待验证50%
10月13日
防御设计应优先考虑破坏补丁级别的语义粒度,而非仅仅隐藏排列方式;两者结合仍需谨慎评估。
待验证50%