[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
概念
PRBO
倾向边界
一种基于代理奖励的越狱发现方法,通过从安全对齐较弱的顺从模型采样回复并评估其在目标模型下的对数似然来构造稠密奖励信号
来源文章
模型课程学习:破解安全对齐的新思路
10月30日