概念
ThinkTrap
一种基于优化的黑盒对抗攻击策略,在连续隐空间中用梯度估计或进化策略优化隐变量,使目标模型产生高风险的内部推理
时间轴 (近 90 天)
10月23日
该研究在两种攻击设定下评估了dLLM映射方法:基于采样的RareTrap和基于优化的ThinkTrap。
待验证50%
10月23日
在基于优化的ThinkTrap中,使用dLLM映射后字符级困惑度从20–28降至4.3–5.4。
待验证50%
10月23日
RareTrap基于采样:在连续隐空间中随机采样隐变量并解码为提示,寻找能触发过度思考等异常行为的样本;ThinkTrap基于优化:用梯度估计或进化策略优化隐变量使模型产生高风险内部推理。
待验证50%