伤害洗白
AI偏见治理领域的概念,指大语言模型中的歧视性偏见经过安全对齐训练后并未被消除,而是从显性表述转化为更隐蔽的形式(如语气、措辞、隐含假设等),从而规避标准化偏见检测机制但仍在实际输出中产生歧视性影响的现象
时间轴 (近 90 天)
一项以GPT系列模型为对象的研究提出了'伤害洗白'(Harm Laundering)概念,指模型中的性别歧视没有真正被消除,而是被转化成更隐蔽、更难检测的形式
模型可以在表层输出上规避被标记为有害的词语或句式,同时在其权重编码的语义关联中保留原有的偏见结构
一个在评测榜单上'低偏见'的模型,在实际部署中未必真正公平
压力测试(Stress Testing)通过设计边界情境、角色切换或多轮对话来诱导模型暴露被抑制的倾向,是识别'伤害洗白'现象的潜在方向,但目前尚未形成标准化方法论
偏见若以'女性-家庭、男性-职场'这样的向量关联形式编码在模型嵌入空间中,即使输出层被训练成不直接表达,仍可能通过上下文推断等路径渗透到实际输出
'伤害洗白'话题目前仍处于讨论的早期阶段,在技术社区中的关注度和讨论量都还有限,其实证证据、量化方法和普适性仍有待更广泛研究验证
全部知识事实 (5)
一项以GPT系列模型为对象的研究提出了'伤害洗白'(Harm Laundering)概念,指模型中的性别歧视没有真正被消除,而是被转化成更隐蔽、更难检测的形式
50%待验证模型可以在表层输出上规避被标记为有害的词语或句式,同时在其权重编码的语义关联中保留原有的偏见结构
50%待验证一个在评测榜单上'低偏见'的模型,在实际部署中未必真正公平
50%待验证压力测试(Stress Testing)通过设计边界情境、角色切换或多轮对话来诱导模型暴露被抑制的倾向,是识别'伤害洗白'现象的潜在方向,但目前尚未形成标准化方法论
50%待验证偏见若以'女性-家庭、男性-职场'这样的向量关联形式编码在模型嵌入空间中,即使输出层被训练成不直接表达,仍可能通过上下文推断等路径渗透到实际输出
50%