[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
概念
遏制 / AI遏制
Containment
源于安全工程与AI控制理论的防御理念,指在模型目标偏离或被恶意利用时通过外部机制限制其行为边界,如沙箱隔离、能力阈值触发、人工熔断开关、行为审计日志等。
来源文章
400余名研究者联名呼吁AI与安全界协作
10月16日