[控场AI]
概念boundary markers / delimiters

边界标记

提示工程中的输入隔离手法,使用XML风格标签、特殊分隔符或围栏将不同来源的内容分区,配合显式声明帮助模型区分可信指令与不可信数据,属于提示注入的输入侧缓解技术

时间轴 (近 90 天)

11月3日

边界标记(boundary markers / delimiters)是用XML风格标签、特殊分隔符或固定格式围栏把不同来源内容分区的输入隔离手法,其有效性依赖于模型对标签语义的遵循能力。

待验证50%
11月3日

边界标记本身可以被攻击者伪造:如果攻击者在邮件正文里写入闭合标签,可能导致模型误以为不可信区域已经结束,因此较稳妥的实现会对正文中出现的标记字符做转义或剥离,并使用随机化的标签名。

待验证50%
11月3日

原帖方案对解析出的字段做了区别对待:OTP验证码、验证链接等结构化信息会单独返回,不放进边界标记里。

已过期50%
11月3日

原帖开发者承认边界标记方案只是缓解措施,不是安全保证,模型仍有可能被精巧的提示注入绕过边界标记。

待验证50%

全部知识事实 (3)

来源文章