概念jailbreak evaluation
越狱评估
针对大语言模型安全性的评估领域，通过构造对抗性提示词测试模型是否会被诱导产生有害输出，并计算攻击成功率等指标。
时间轴 (近 90 天)
10月20日
传统越狱评估若仅使用贪婪解码，会得到确定性的单一输出，无法反映模型在随机采样下的真实行为分布。
待验证50%
10月20日
在固定目标模型、提示词和响应的情况下，仅更换评分器，越狱攻击成功率可以从几乎全挡变为几乎全过。
待验证50%
针对大语言模型安全性的评估领域，通过构造对抗性提示词测试模型是否会被诱导产生有害输出，并计算攻击成功率等指标。
传统越狱评估若仅使用贪婪解码，会得到确定性的单一输出，无法反映模型在随机采样下的真实行为分布。
在固定目标模型、提示词和响应的情况下，仅更换评分器，越狱攻击成功率可以从几乎全挡变为几乎全过。