[控场AI]
概念

ThinkTrap

一种基于优化的黑盒对抗攻击策略,在连续隐空间中用梯度估计或进化策略优化隐变量,使目标模型产生高风险的内部推理

时间轴 (近 90 天)

10月23日

该研究在两种攻击设定下评估了dLLM映射方法:基于采样的RareTrap和基于优化的ThinkTrap。

待验证50%
10月23日

在基于优化的ThinkTrap中,使用dLLM映射后字符级困惑度从20–28降至4.3–5.4。

待验证50%
10月23日

RareTrap基于采样:在连续隐空间中随机采样隐变量并解码为提示,寻找能触发过度思考等异常行为的样本;ThinkTrap基于优化:用梯度估计或进化策略优化隐变量使模型产生高风险内部推理。

待验证50%

全部知识事实 (3)

来源文章