[控场AI]
概念Human Approval

人类审批

在AI Agent执行敏感操作前引入人类确认的机制,确保操作经过授权且可审计。

核心事实

时间轴 (近 90 天)

11月13日

审批流程设计需要明确区分“人类审批”和“系统自动审批”的边界;如果允许自动化审批,就必须假定审批者可能被请求者操控,并设计相应的隔离机制。

待验证50%
10月15日

应用层安全控制应包含三种独立控制:输入验证、人类审批、授权,三者协同工作。

待验证50%
10月14日

人在回路确认(human-in-the-loop)指对支付、删除、发送等高风险动作要求用户显式点按确认,而非依赖提示词约束

已验证65%
9月24日

合理的做法是在不可逆或高影响的操作节点(如合并到主分支、部署到生产环境)设置强制人工确认

待验证50%

全部知识事实 (4)

来源文章