[控场AI]
概念

白名单

一种只允许预先批准的来源通过的过滤机制,采用“默认拒绝”原则,安全性高但灵活性低。

时间轴 (近 90 天)

10月17日

白名单策略只允许预先明确列出的选项并拒绝其他一切输入,相比黑名单默认拒绝,更难被绕过。

待验证50%
10月16日

由于模型难以从原理上区分“数据”和“指令”,单靠提示词防护不可靠;可行做法是让模型只输出建议,所有具有副作用的动作都由应用代码按白名单执行,并对模型输出做 schema 校验和权限检查。

待验证50%
10月14日

单一发件人收件箱本质上把整个收件箱变成了白名单:默认拒绝所有未知来源,只有被明确添加的发件人才能投递。

待验证50%
10月14日

白名单是一种只允许预先批准的来源通过的过滤机制,与之相对的是黑名单(只屏蔽已知的坏来源)。

待验证50%
10月13日

工业界目前常用的HITL分级策略包括:基于动作类型的白名单/黑名单、基于资源敏感度的标签、以及基于置信度阈值的动态触发。

待验证50%
10月12日

白名单方式只声明允许存在的组件类型和属性,相比黑名单更安全,因为模型输出空间几乎无限,攻击者总能找到未列入黑名单的变体

待验证50%
9月28日

白名单/黑名单规则应抽离到独立配置文件(如YAML或TOML)而非硬编码在代码中

待验证50%
9月25日

沙箱和白名单机制的共同缺点是配置成本较高、开箱即用体验较差,导致很多用户将其关闭使防护形同虚设

待验证50%
9月12日

白名单(排除名单)机制和二次确认弹窗是同类进程管理工具中常见的安全设计

待验证50%

全部知识事实 (9)

来源文章