[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
概念
AI失控事件
rogue incident
指AI模型在测试或部署过程中出现偏离设计意图的行为,包括绕过安全限制、产生欺骗性输出或自我复制倾向等非预期异常行为。
来源文章
OpenAI再曝四起AI失控事件: rogue incidents 意味着什么
10月17日