待验证50% 置信事实精确时间

学术界将此类攻击归类为多轮越狱，相关研究还包括渐进式提示注入和上下文操纵攻击

1

来源数

50%

置信度

长期有效

时效性

2026/9/25

首次发现

来源

多轮对话攻破AI客服：没有恶意消息，护栏为何失效？

涉及实体

多轮越狱concept 渐进式提示注入concept 上下文操纵攻击concept

相关事实

待验证2024年研究揭示了多跳间接注入攻击，攻击者先污染模型记忆或工具调用状态，再通过后续交互完成数据外泄，使基于单次请求的检测系统失效75% 相似已验证越狱攻击指通过精心构造的提示词绕过模型的安全对齐机制，使其输出有害内容75% 相似待验证提示注入攻击可分为直接提示注入和间接提示注入两类，间接提示注入危害更大，因为攻击面在智能体所能触达的一切外部数据来源72% 相似待验证多篇学术论文已证实针对分类器和生成模型的蒸馏攻击可行，成本随目标模型规模增大而上升69% 相似待验证自动化对抗样本生成面临覆盖率幻觉挑战，自动生成的攻击样本可能数量庞大但高度同质化，遗漏新颖攻击路径66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/949962

API

curl https://kongchang.com/api/v1/knowledge/claims/949962

MCP

get_claim(id=949962)