[控场AI]
概念statistical watermarking / 统计水印

统计水印

一种通过轻微偏置 token 采样概率将可检测标记嵌入生成文本的技术,检测方需持有密钥并基于统计显著性判断水印是否存在

时间轴 (近 90 天)

10月30日

统计水印在生成每个token时,依据只有厂商掌握的密钥对候选词表做伪随机划分,并轻微提升某一子集(绿名单)的采样概率。

待验证50%
10月30日

统计水印与基于困惑度、句式特征等启发式信号的AI检测器有本质区别:后者是概率猜测,前者在密钥保密的前提下可给出统计意义上的置信度。

待验证50%
10月30日

水印的鲁棒性与可检测性是一对矛盾:扰动越大越容易被发现,但对改写、翻译、同义替换的抵抗力也越弱。

待验证50%
10月30日

将文本交给另一个模型要求全部改写(洗稿式攻击),会重新采样几乎每一个token,使原有水印偏置彻底失效。

待验证50%
10月30日

面向开放文本的统计水印很难同时做到对良性编辑稳健、对恶意改写免疫。

待验证50%

全部知识事实 (5)

来源文章