待验证50% 置信事实精确时间
2023年卡内基梅隆大学研究团队发现了基于梯度的自动化越狱方法（GCG攻击），通过在提示词后附加看似无意义的后缀字符串即可绕过几乎所有主流模型的安全防护
1
来源数
50%
置信度
长期有效
时效性
2026/8/16
首次发现
来源
相关事实
待验证2024年以来，研究者发现了对抗性后缀攻击（Adversarial Suffix），即在正常提示后附加一串看似无意义的token序列就能让模型忽略安全对齐71% 相似待验证2024年研究揭示了多跳间接注入攻击，攻击者先污染模型记忆或工具调用状态，再通过后续交互完成数据外泄，使基于单次请求的检测系统失效65% 相似待验证2023年多项研究证明，即使经过RLHF对齐的模型也难以完全抵抗精心设计的间接提示词注入64% 相似待验证2023年多项学术研究证明，即使经过严格安全对齐训练的模型，当恶意指令以自然语言文档形式出现在上下文窗口中时，其遵循率仍显著高于直接注入场景63% 相似已验证2024年多项学术研究表明当前主流LLM对精心设计的提示注入攻击的抵抗能力仍然有限63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/756999API
curl https://kongchang.com/api/v1/knowledge/claims/756999MCP
get_claim(id=756999)