待验证50% 置信观点精确时间
安全的智能体应当识别出何时必须停止,而非继续追逐原始目标;在医疗场景里,一个主动中止并请求人工介入的智能体可能比强行完成任务的智能体更有价值。
1
来源数
50%
置信度
长期有效
时效性
2026/10/17
首次发现
来源
医疗AI智能体安全新课题:可逆性与失败恢复设计
rss2026/10/17
涉及实体
相关事实
引用此条事实
Stable URI
https://kongchang.com/claim/1052121API
curl https://kongchang.com/api/v1/knowledge/claims/1052121MCP
get_claim(id=1052121)