SEMA-Auto
微软研究院提出的自主多轮越狱攻击智能体,通过两阶段训练(合成引导微调+决策监督强化学习)实现自主判断攻击是否成功并终止会话,在多个数据集和受害模型上取得SOTA攻击成功率。
时间轴 (近 90 天)
微软研究院提出了 SEMA-Auto,一种具备自主判断能力、能自行决定何时终止的多轮越狱攻击智能体。
SEMA-Auto 采用两阶段训练:第一阶段为合成引导微调,第二阶段为决策监督强化学习。
在 AdvBench 上针对 DeepSeek-V4-Flash,SEMA-Auto 在平均 3.0 回合内达到 76.0% 的 ASR@1。
针对 GPT-oss-120B、GPT-5.4、Claude-Haiku-4.5 和 GPT-6-Astra,经过对抗训练的 SEMA-Auto 在 HarmBench 上取得平均 59.6% 的 ASR@1。
经过对抗训练的 SEMA-Auto 在 HarmBench 上的平均 ASR@1 比此前 SOTA 高出 13.8 个百分点。
SEMA-Auto 成功时能够自行终止会话,无需外部评估器判断是否成功。
SEMA-Auto 的代码已开源,地址为 github.com/microsoft/SEMA。
全部知识事实 (7)
微软研究院提出了 SEMA-Auto,一种具备自主判断能力、能自行决定何时终止的多轮越狱攻击智能体。
50%待验证SEMA-Auto 采用两阶段训练:第一阶段为合成引导微调,第二阶段为决策监督强化学习。
50%待验证在 AdvBench 上针对 DeepSeek-V4-Flash,SEMA-Auto 在平均 3.0 回合内达到 76.0% 的 ASR@1。
50%待验证针对 GPT-oss-120B、GPT-5.4、Claude-Haiku-4.5 和 GPT-6-Astra,经过对抗训练的 SEMA-Auto 在 HarmBench 上取得平均 59.6% 的 ASR@1。
50%待验证经过对抗训练的 SEMA-Auto 在 HarmBench 上的平均 ASR@1 比此前 SOTA 高出 13.8 个百分点。
50%待验证SEMA-Auto 成功时能够自行终止会话,无需外部评估器判断是否成功。
50%待验证SEMA-Auto 的代码已开源,地址为 github.com/microsoft/SEMA。
50%