[控场AI]
· 3 分钟阅读· 1,613 字

黑盒生成模型的无失真语义水印

黑盒生成模型的无失真语义水印

新框架仅需黑盒访问实现可证明无失真且对内容保持变换鲁棒的语义水印。

该论文提出一种完全通用的语义水印框架,仅需黑盒采样访问生成模型和语义嵌入,即可实现可证明的无失真性和对内容保持变换的鲁棒性。针对传统无失真水印对压缩、裁剪等变换脆弱且依赖白盒访问的问题,作者将水印检测建立在语义嵌入空间,并训练图像编码器权衡变换稳定性与独立生成区分度。在开源和闭源模型上的实验表明,该方案提高了分离度,实现了强大的聚合检测,且不牺牲输出质量。这一方法降低了水印对模型内部访问的依赖,使第三方可为闭源模型添加水印,并为AI生成内容版权保护提供了新途径。

黑盒生成模型的水印新方案

生成模型的水印技术一直面临两难:既要保证水印不影响生成质量(无失真),又要确保水印在图像经过压缩、裁剪等良性变换后仍能被检测到(鲁棒性)。传统方法往往依赖模型的白盒访问权限,例如需要控制扩散模型的初始噪声或使用自回归文本生成的特性。近期一篇论文提出了一种完全通用的语义水印框架,仅需黑盒采样访问生成模型和语义嵌入,就能实现可证明的无失真性和对内容保持变换的鲁棒性。

论文标题截图

无失真与鲁棒性的矛盾

无失真水印的定义是:对秘密检测密钥取平均后,水印不改变生成器的输出分布。这从形式上保证了水印不会降低输出质量。然而,传统无失真水印对变换非常脆弱,尤其是图像领域,压缩、裁剪或缩放会改变整个像素表示。语义水印要求检测对内容保持变换鲁棒,但以往结合这两者的方法严重依赖模型的白盒特性,比如扩散模型的初始噪声控制或扩散反转。

无失真水印的形式化定义源于密码学中的不可区分性:若检测密钥在密钥空间中均匀随机,则水印嵌入后的输出分布与原始生成分布完全一致(总变差距离为0)。这意味着任何仅观察生成内容的攻击者都无法区分水印存在与否,因此无失真性天然提供了对水印移除攻击的抵抗力。但该性质也带来一个推论:水印信号必须“隐藏”在生成过程的随机性中,而非显式修改输出。传统图像无失真水印常通过约束像素级扰动实现,但这类扰动在JPEG压缩或裁剪后会被破坏,导致检测失效。

语义嵌入是将图像映射到低维语义空间的函数,其距离度量定义了“内容保持”的边界。一个良好的语义嵌入应满足:对同一图像施加压缩、缩放等保内容变换后,嵌入向量距离较小;而对不同语义内容的图像,距离较大。水印检测在此空间中进行,因此鲁棒性不依赖于像素级精确匹配。

通用黑盒框架的构建

该论文的构造完全通用:只通过样本和查询访问与生成模型及语义嵌入交互。语义嵌入定义了“内容保持”的概念,检测应在此概念下保持鲁棒。作者将框架实例化于图像生成,并刻画了语义嵌入的两个竞争属性:对保持图像内容的变换应保持稳定,但对同一提示的独立生成应能区分。他们直接训练了一个图像编码器来权衡这两点。

黑盒采样访问指仅能通过查询生成模型获得输出样本,无法访问模型参数、内部激活或随机种子。这与白盒访问形成对比:例如扩散模型的白盒水印常控制初始噪声分布,自回归模型的水印则修改token采样概率。黑盒设定下,水印必须嵌入在输出样本本身或通过后处理实现,同时不改变输出分布。该框架通过语义嵌入将水印信号与内容解耦,检测时仅需比较语义嵌入的统计特性,因而适用于任何可采样模型。

聚合检测指对多个生成样本的水印信号进行联合统计检验,而非逐样本判断。由于无失真水印的单样本信号极弱,聚合检测能显著提升检测功效。常见做法是计算样本语义嵌入的均值与参考分布的偏差,并使用假设检验(如卡方检验)判断水印存在性。聚合检测的鲁棒性依赖于语义嵌入在变换下的稳定性,以及独立生成样本间的区分度。

实验结果与优势

作者在开源和闭源模型上验证了水印方案的有效性,这得益于仅使用黑盒访问的限制。训练得到的编码器相比现成替代品提高了分离度,同时保持了稳定性,实现了强大的聚合检测,并对多种变换保持鲁棒。这一方法为黑盒生成模型的水印提供了可证明的保证,且不牺牲输出质量。

实际意义

对于AI生成内容的版权保护和溯源,该方案降低了对模型内部访问的依赖,使第三方也能为闭源模型添加水印。同时,无失真的特性确保水印不会影响生成内容的视觉质量,这对实际部署至关重要。

总结

这项研究通过黑盒访问和语义嵌入的巧妙结合,解决了水印领域长期存在的无失真与鲁棒性难以兼得的问题。其通用框架不局限于图像,未来或可扩展到其他模态。

#语义水印#黑盒生成模型#无失真水印#图像编码器#鲁棒性#生成模型水印
分享:

相关推荐