概念Jailbreak / 越狱 / 提示词越狱
越狱攻击
针对AI系统安全护栏的绕过技术，包括角色扮演注入、提示词注入攻击、对抗性后缀、语义替换等手法，旨在使AI生成被安全机制限制的内容
核心事实
时间轴 (近 90 天)
10月12日
越狱攻击持续有效的原因在于，它们将输入推入奖励模型边界模糊的区域。
待验证50%
10月10日
常见越狱手法包括DAN（Do Anything Now）提示、角色扮演框架、多轮诱导等
待验证50%
9月29日
习惯性使用操纵性、欺骗性语言与AI交互可能潜移默化影响使用者自身的沟通习惯
待验证50%
8月31日
红队演练源自军事和网络安全领域，在AI安全语境中已发展出Prompt层面攻击、训练基础设施安全测试、模型自身能力风险测试等多个层次
已验证75%
全部知识事实 (6)
已验证
红队演练源自军事和网络安全领域，在AI安全语境中已发展出Prompt层面攻击、训练基础设施安全测试、模型自身能力风险测试等多个层次
75%已验证越狱攻击指通过精心构造的提示词绕过模型的安全对齐机制，使其输出有害内容
75%待验证越狱攻击经历了从简单角色扮演（如DAN提示）到Base64编码绕过、多轮对话渐进式诱导（Crescendo Attack）、对抗性后缀攻击等多个演进阶段
85%待验证越狱攻击持续有效的原因在于，它们将输入推入奖励模型边界模糊的区域。
50%待验证常见越狱手法包括DAN（Do Anything Now）提示、角色扮演框架、多轮诱导等
50%待验证习惯性使用操纵性、欺骗性语言与AI交互可能潜移默化影响使用者自身的沟通习惯
50%