待验证50% 置信事实精确时间
OpenAI、Anthropic等主流AI实验室均将Human-in-the-Loop原则纳入安全部署规范
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/7/6
首次发现
有效期至：2026/10/4
来源
AI Agent是什么？从「会聊天」到「会做事」的核心跃迁
bilibiliAI网络实验室2026/7/3
相关事实
待验证Agent安全防控框架包括权限最小化原则、人机协同确认机制（Human-in-the-Loop）、操作可逆性设计、实时监控与熔断机制四个层次78% 相似待验证操作型Agent的安全设计核心原则包括最小权限原则、人在回路（Human-in-the-Loop）机制和操作可逆性设计76% 相似待验证当前Agent工程化的主流约束策略包括权限沙箱、Human-in-the-Loop确认机制以及行动日志与回滚能力76% 相似待验证业界将在Agent行动链路关键节点设置人工审核卡口的设计原则称为Human-in-the-Loop（人在回路中）74% 相似待验证Anthropic在其负责任扩展政策中将权限管控列为核心安全机制，建议用户在人类在回路（Human-in-the-Loop）模式下授权高风险操作70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/112811API
curl https://kongchang.com/api/v1/knowledge/claims/112811MCP
get_claim(id=112811)