[控场AI]
概念Human Checkpoint

人工检查点

在智能体执行不可逆操作前设置的人工确认环节,要求检查者具备领域知识并能基于智能体的推理依据和预期结果做出判断。

时间轴 (近 90 天)

11月11日

在智能体执行不可逆操作(如发送邮件、修改数据库、发起支付)之前,必须设置人工确认环节。

待验证50%
11月4日

企业应依据血缘风险评分动态放置人工检查点:当数据链条涉及受限数据源或外部输出时强制插入人工审核,低风险场景则允许代理自主完成。

待验证50%
10月14日

可靠的工作流应在可能造成严重后果的环节保留人工检查点,包括公开发布前、财务操作前、删除记录前、发送敏感消息前、接受生成的法律语言前,以及做出非常规客户决定前。

待验证50%

全部知识事实 (3)

来源文章