拒绝机制

大语言模型通过RLHF等训练手段习得的安全行为机制，使模型在检测到有害或违规请求时输出拒绝性回答，是AI安全体系的重要组成部分，但存在可被越狱绕过和过度拒绝等局限性