待验证50% 置信事实精确时间

'紧急刹车'在AI安全领域对应的更正式概念是可中断性（Corrigibility）或关闭问题（Off-Switch Problem）

1

来源数

50%

置信度

长期有效

时效性

2026/10/12

首次发现

来源

纳德拉呼吁AI需要"紧急刹车"：微软CEO谈信任架构

涉及实体

可中断性concept 关闭问题concept

相关事实

待验证kill switch指的是在AI系统出现失控、异常或造成潜在危害时能够被迅速关闭或中止运行的机制75% 相似待验证断路器模式在AI评估场景中被引申为分级响应的安全中断机制，通常分为多个触发级别72% 相似待验证失效安全原则要求系统故障时默认进入安全停机状态，而非继续执行最后一条指令，对具有物理执行能力的机器人设备尤为关键68% 相似待验证在部署流程中预留人工介入点，可在自动化链路中断时执行紧急操作68% 相似待验证设计'紧急刹车'需要在模型的奖励函数与决策机制层面做根本性设计，使系统面对人类干预时保持配合而非规避的倾向65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1000708

API

curl https://kongchang.com/api/v1/knowledge/claims/1000708

MCP

get_claim(id=1000708)