[控场AI]
模型Plug and Play Language Models

PPLM

一种解码层面的语言模型条件控制方法,通过在解码时迭代修正词分布来引导生成内容满足特定条件,属于无需重新训练模型的即插即用控制技术

时间轴 (近 90 天)

9月30日

PPLM(Plug and Play Language Models)是一种解码层面的干预方法,在解码时迭代修正词分布

待验证50%
9月2日

PPLM通过计算分类器关于模型隐藏状态的梯度,在生成过程中动态调整隐藏状态方向使输出更符合目标属性

待验证50%
9月2日

PPLM和FUDGE等即插即用方法保持预训练语言模型参数不变,在解码阶段通过额外训练的轻量级分类器调整生成概率分布以引导输出满足特定属性

待验证50%
9月2日

在五项分类器引导任务上,Diffusion-LM的控制成功率全面高于PPLM和FUDGE基线,同时保持较好的流畅度

待验证50%

全部知识事实 (4)

来源文章