[控场AI]
模型SEMA-Auto攻击智能体

SEMA-Auto

微软研究院提出的自主多轮越狱攻击智能体,通过两阶段训练(合成引导微调+决策监督强化学习)实现自主判断攻击是否成功并终止会话,在多个数据集和受害模型上取得SOTA攻击成功率。

时间轴 (近 90 天)

10月27日

微软研究院提出了 SEMA-Auto,一种具备自主判断能力、能自行决定何时终止的多轮越狱攻击智能体。

待验证50%
10月27日

SEMA-Auto 采用两阶段训练:第一阶段为合成引导微调,第二阶段为决策监督强化学习。

待验证50%
10月27日

在 AdvBench 上针对 DeepSeek-V4-Flash,SEMA-Auto 在平均 3.0 回合内达到 76.0% 的 ASR@1。

待验证50%
10月27日

针对 GPT-oss-120B、GPT-5.4、Claude-Haiku-4.5 和 GPT-6-Astra,经过对抗训练的 SEMA-Auto 在 HarmBench 上取得平均 59.6% 的 ASR@1。

待验证50%
10月27日

经过对抗训练的 SEMA-Auto 在 HarmBench 上的平均 ASR@1 比此前 SOTA 高出 13.8 个百分点。

待验证50%
10月27日

SEMA-Auto 成功时能够自行终止会话,无需外部评估器判断是否成功。

待验证50%
10月27日

SEMA-Auto 的代码已开源,地址为 github.com/microsoft/SEMA。

待验证50%

全部知识事实 (7)

来源文章