待验证50% 置信事实精确时间
通过精心设计的越狱提示词（Jailbreak Prompts），攻击者可绕过主流LLM的安全护栏使其生成有害内容
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/7/7
首次发现
有效期至：2026/10/5
来源
AI造假产业链揭秘：从Lily Jay事件看深度伪造与身份欺骗
hackernewshackernews2026/7/4
相关事实
待验证jailbreak攻击（如DAN提示、Base64编码指令、多语言切换攻击）本质上是试图将模型推入训练分布之外，使其进入对齐约束薄弱的行为空间75% 相似待验证二维码接入存在重放攻击、token长期有效导致会话凭证泄露以及中间人攻击等安全风险71% 相似待验证系统提示词的公开可能使jailbreak（越狱攻击）变得更加容易，因为攻击者可以精确了解安全规则的具体措辞和逻辑结构70% 相似待验证网络安全领域长期存在攻防不对称困境：攻击者只需找到一个漏洞即可得手，而防御者必须堵住所有漏洞69% 相似待验证数据投毒攻击中，清洁标签攻击允许攻击者在不修改样本标签的情况下植入后门，特洛伊木马攻击通过特定触发词激活预设的恶意行为69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/144272API
curl https://kongchang.com/api/v1/knowledge/claims/144272MCP
get_claim(id=144272)