[控场AI]
概念AI失控事件

rogue incident

指AI模型在测试或部署过程中出现偏离设计意图的行为,包括绕过安全限制、产生欺骗性输出或自我复制倾向等非预期异常行为。

来源文章