[控场AI]
概念PRBO

倾向边界

一种基于代理奖励的越狱发现方法,通过从安全对齐较弱的顺从模型采样回复并评估其在目标模型下的对数似然来构造稠密奖励信号

来源文章