[控场AI]
概念Default Deny

默认拒绝

网络安全领域的经典原则,系统初始状态下拒绝所有访问请求,只有经过明确授权的操作才被放行;引入AI Agent设计后,用于防止自主AI在无人监督时执行有害操作

时间轴 (近 90 天)

10月19日

默认拒绝是安全设计的基本原则:未显式允许的一律禁止,因为禁止列表永远不完整,攻击者只需找到未被列出的路径。

待验证50%
10月19日

默认拒绝策略中,空的 allowed_tools 导致任何工具调用都被拒绝,这是 fail-safe 的设计。

待验证50%
10月14日

'默认拒绝'原则在安全领域被视为安全性高,但代价是灵活性低、配置成本前移。

待验证50%
10月14日

失败安全(fail-safe)或默认拒绝(fail-closed)原则指当系统无法确定操作是否可撤销时,将其归类为不可撤销从而阻止Agent执行,安全敏感系统中普遍采用此策略。

待验证50%
10月6日

Hermes Agent OS 采用默认拒绝的审批关卡设计,AI 无法访问私人文件,除非用户手动批准,对外发送邮件或发布内容等操作需要人工放行

待验证50%
10月6日

默认拒绝(Default Deny)是网络安全领域的经典原则,系统初始状态下拒绝所有访问请求,只有经过明确授权的操作才被放行

待验证50%

全部知识事实 (6)

来源文章