白名单
一种只允许预先批准的来源通过的过滤机制,采用“默认拒绝”原则,安全性高但灵活性低。
时间轴 (近 90 天)
白名单策略只允许预先明确列出的选项并拒绝其他一切输入,相比黑名单默认拒绝,更难被绕过。
由于模型难以从原理上区分“数据”和“指令”,单靠提示词防护不可靠;可行做法是让模型只输出建议,所有具有副作用的动作都由应用代码按白名单执行,并对模型输出做 schema 校验和权限检查。
单一发件人收件箱本质上把整个收件箱变成了白名单:默认拒绝所有未知来源,只有被明确添加的发件人才能投递。
白名单是一种只允许预先批准的来源通过的过滤机制,与之相对的是黑名单(只屏蔽已知的坏来源)。
工业界目前常用的HITL分级策略包括:基于动作类型的白名单/黑名单、基于资源敏感度的标签、以及基于置信度阈值的动态触发。
白名单方式只声明允许存在的组件类型和属性,相比黑名单更安全,因为模型输出空间几乎无限,攻击者总能找到未列入黑名单的变体
白名单/黑名单规则应抽离到独立配置文件(如YAML或TOML)而非硬编码在代码中
沙箱和白名单机制的共同缺点是配置成本较高、开箱即用体验较差,导致很多用户将其关闭使防护形同虚设
白名单(排除名单)机制和二次确认弹窗是同类进程管理工具中常见的安全设计
全部知识事实 (9)
白名单策略只允许预先明确列出的选项并拒绝其他一切输入,相比黑名单默认拒绝,更难被绕过。
50%待验证由于模型难以从原理上区分“数据”和“指令”,单靠提示词防护不可靠;可行做法是让模型只输出建议,所有具有副作用的动作都由应用代码按白名单执行,并对模型输出做 schema 校验和权限检查。
50%待验证单一发件人收件箱本质上把整个收件箱变成了白名单:默认拒绝所有未知来源,只有被明确添加的发件人才能投递。
50%待验证白名单是一种只允许预先批准的来源通过的过滤机制,与之相对的是黑名单(只屏蔽已知的坏来源)。
50%待验证工业界目前常用的HITL分级策略包括:基于动作类型的白名单/黑名单、基于资源敏感度的标签、以及基于置信度阈值的动态触发。
50%待验证白名单方式只声明允许存在的组件类型和属性,相比黑名单更安全,因为模型输出空间几乎无限,攻击者总能找到未列入黑名单的变体
50%待验证白名单/黑名单规则应抽离到独立配置文件(如YAML或TOML)而非硬编码在代码中
50%待验证沙箱和白名单机制的共同缺点是配置成本较高、开箱即用体验较差,导致很多用户将其关闭使防护形同虚设
50%待验证白名单(排除名单)机制和二次确认弹窗是同类进程管理工具中常见的安全设计
50%