自动化红队

使用语言模型驱动的AI智能体代替人工攻击者执行对抗性安全评估的技术方法，可大规模、自动化地探索AI模型的安全漏洞与失控边界