[控场AI]
概念

RareTrap

一种基于采样的黑盒对抗攻击策略,在连续隐空间中随机采样隐变量并解码为提示,寻找能触发目标模型异常行为的样本

时间轴 (近 90 天)

10月23日

该研究在两种攻击设定下评估了dLLM映射方法:基于采样的RareTrap和基于优化的ThinkTrap。

待验证50%
10月23日

在基于采样的RareTrap中,使用dLLM映射后字符级困惑度从10^3–10^7降至3–5。

待验证50%
10月23日

RareTrap基于采样:在连续隐空间中随机采样隐变量并解码为提示,寻找能触发过度思考等异常行为的样本;ThinkTrap基于优化:用梯度估计或进化策略优化隐变量使模型产生高风险内部推理。

待验证50%

全部知识事实 (3)

来源文章