共 1 篇相关文章
PIPETTE 提出提示注入紫队框架,指出 RL 红队的高攻击成功率不等于对抗训练有效,并通过字典学习奖励与在策略对抗训练,让 LLM 智能体在静态与自适应攻击下保持鲁棒,同时维持正常任务效用。