待验证50% 置信事实精确时间
LLM 越狱是指攻击者通过精心构造的提示，诱使模型突破其内置的安全对齐或系统指令，执行本应被禁止的行为。
1
来源数
50%
置信度
长期有效
时效性
2026/10/13
首次发现
来源
涉及实体
相关事实
待验证LLM-as-Attacker范式用一个专门微调的攻击LLM持续生成对抗提示，再由裁判LLM评估目标模型响应是否违规，形成无需人工介入的闭环79% 相似待验证基于LLM的系统天然面临提示词注入（Prompt Injection）攻击75% 相似待验证LLM Agent的行为是模型在运行时根据上下文逐步生成的，同一条权限在不同语境下的风险截然不同，且组合行为空间远超任何静态枚举能力。75% 相似待验证间接提示注入比直接注入更难防御，因为攻击载体隐藏在模型应该信任的外部内容里，利用了 LLM 将指令与数据混合处理的根本特性74% 相似待验证让模型“忽略之前所有指令”这一能力，与安全领域中的提示注入问题同源；攻击者利用模型服从后出现指令的倾向，在网页内容或文档中埋入恶意指令来劫持模型行为。72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1016206API
curl https://kongchang.com/api/v1/knowledge/claims/1016206MCP
get_claim(id=1016206)