[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
概念
Incremental Prompt Injection
渐进式提示注入
一种AI安全攻击技术,通过在多轮交互中逐步注入恶意指令,规避单条消息级别的安全检测
时间轴 (近 90 天)
9月25日
学术界将此类攻击归类为多轮越狱,相关研究还包括渐进式提示注入和上下文操纵攻击
待验证
50%
全部知识事实 (1)
待验证
学术界将此类攻击归类为多轮越狱,相关研究还包括渐进式提示注入和上下文操纵攻击
50%
来源文章
多轮对话攻破AI客服:没有恶意消息,护栏为何失效?
9月25日