概念boundary markers / delimiters
边界标记
提示工程中的输入隔离手法,使用XML风格标签、特殊分隔符或围栏将不同来源的内容分区,配合显式声明帮助模型区分可信指令与不可信数据,属于提示注入的输入侧缓解技术
时间轴 (近 90 天)
11月3日
边界标记(boundary markers / delimiters)是用XML风格标签、特殊分隔符或固定格式围栏把不同来源内容分区的输入隔离手法,其有效性依赖于模型对标签语义的遵循能力。
待验证50%
11月3日
边界标记本身可以被攻击者伪造:如果攻击者在邮件正文里写入闭合标签,可能导致模型误以为不可信区域已经结束,因此较稳妥的实现会对正文中出现的标记字符做转义或剥离,并使用随机化的标签名。
待验证50%
11月3日
原帖方案对解析出的字段做了区别对待:OTP验证码、验证链接等结构化信息会单独返回,不放进边界标记里。
已过期50%
11月3日
原帖开发者承认边界标记方案只是缓解措施,不是安全保证,模型仍有可能被精巧的提示注入绕过边界标记。
待验证50%