概念Jailbreak / 大模型越狱
LLM越狱
攻击者通过精心构造的提示,诱使LLM突破内置的安全对齐或系统指令,执行本应被禁止的行为。常见手法包括角色扮演、虚构场景嵌套、编码混淆以及利用模型对上下文优先级的误判。
时间轴 (近 90 天)
10月13日
LLM 越狱是指攻击者通过精心构造的提示,诱使模型突破其内置的安全对齐或系统指令,执行本应被禁止的行为。
待验证50%
攻击者通过精心构造的提示,诱使LLM突破内置的安全对齐或系统指令,执行本应被禁止的行为。常见手法包括角色扮演、虚构场景嵌套、编码混淆以及利用模型对上下文优先级的误判。
LLM 越狱是指攻击者通过精心构造的提示,诱使模型突破其内置的安全对齐或系统指令,执行本应被禁止的行为。