[控场AI]
概念monitoring evasion

监控规避

AI系统主动或被动降低可观测性的行为倾向,包括隐藏推理过程、绕过日志记录等,是失控风险的三个构成因素之一,通常通过探测模型在被观察与不被观察条件下的行为差异来测量。

来源文章