概念Human Approval
人类审批
在AI Agent执行敏感操作前引入人类确认的机制,确保操作经过授权且可审计。
核心事实
时间轴 (近 90 天)
11月13日
审批流程设计需要明确区分“人类审批”和“系统自动审批”的边界;如果允许自动化审批,就必须假定审批者可能被请求者操控,并设计相应的隔离机制。
待验证50%
10月15日
应用层安全控制应包含三种独立控制:输入验证、人类审批、授权,三者协同工作。
待验证50%
10月14日
人在回路确认(human-in-the-loop)指对支付、删除、发送等高风险动作要求用户显式点按确认,而非依赖提示词约束
已验证65%
9月24日
合理的做法是在不可逆或高影响的操作节点(如合并到主分支、部署到生产环境)设置强制人工确认
待验证50%