待验证50% 置信事实精确时间

美国国防部在2012年发布的自主武器系统指令中明确要求致命性决策必须保留人类判断环节

1

来源数

50%

置信度

长期有效

时效性

2026/9/3

首次发现

来源

循环工程：让AI自己执行、检查、修正的完整方法

涉及实体

美国国防部company 自主武器系统指令concept

相关事实

待验证对于高风险或高不确定性的决策场景，应保留人类的最终审核权，将自己定位为 AI 输出的主动审核者而非被动接受者60% 相似待验证无人监督的自主循环系统可能在技术上正确的前提下导向实质上错误的结果，需要在关键决策节点引入人类判断60% 相似待验证在威胁建模和攻击路径规划等需要创造性思维的环节，人类专家的判断仍然不可替代58% 相似待验证最小权限原则、可逆操作优先和Human-in-the-Loop机制是当前工业级Agent部署的主流安全范式57% 相似待验证AI监管的核心困境在于单边约束的无效性，形成囚徒困境，与冷战时期核军备控制逻辑相似，有效军控需要多边参与和可核查机制56% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/849985

API

curl https://kongchang.com/api/v1/knowledge/claims/849985

MCP

get_claim(id=849985)