TextGrain
OpenAI开发的文本水印技术，通过微调模型输出中的词语选择形成可机读的隐性标记，在不改变用户体验的前提下满足欧盟AI法案的透明度合规要求
核心事实
时间轴 (近 90 天)
意大利《晚邮报》报道了TextGrain，将其描述为用来追捕聊天机器人文本的隐形水印（filigrana invisibile）
TextGrain的工作原理是通过塑造AI的选词偏好留下统计学痕迹，让模型在生成时更倾向于选择特定词汇或语法结构
由于水印偏差分布在整篇文章中，简单替换几个词或改写句子并不能抹去底层的统计指纹，使水印具备鲁棒性
OpenAI表示其检测工具的使用将受到限制，但尚未明确谁有权查看水印（雇主、教育者或政府）
TextGrain通过微调词语选择来形成检测工具可识别的模式，但编辑、翻译或使用极短片段可能削弱信号
OpenAI推出文本水印系统TextScreen，不插入可见标记而是在模型用词选择中嵌入统计信号供后续检测，以应对欧盟AI法案，并计划开源
文本越长水印检测的置信度越高，短文本统计噪声大误判风险高，数百词元以上长文本检测准确率较可靠
目前没有任何可靠的方法能准确检测文本是否由AI生成
全部知识事实 (8)
文本越长水印检测的置信度越高，短文本统计噪声大误判风险高，数百词元以上长文本检测准确率较可靠
65%待验证由于水印偏差分布在整篇文章中，简单替换几个词或改写句子并不能抹去底层的统计指纹，使水印具备鲁棒性
50%待验证OpenAI表示其检测工具的使用将受到限制，但尚未明确谁有权查看水印（雇主、教育者或政府）
50%待验证TextGrain的工作原理是通过塑造AI的选词偏好留下统计学痕迹，让模型在生成时更倾向于选择特定词汇或语法结构
50%待验证TextGrain通过微调词语选择来形成检测工具可识别的模式，但编辑、翻译或使用极短片段可能削弱信号
50%待验证目前没有任何可靠的方法能准确检测文本是否由AI生成
50%待验证意大利《晚邮报》报道了TextGrain，将其描述为用来追捕聊天机器人文本的隐形水印（filigrana invisibile）
50%待验证OpenAI推出文本水印系统TextScreen，不插入可见标记而是在模型用词选择中嵌入统计信号供后续检测，以应对欧盟AI法案，并计划开源
50%