[控场AI]
概念Self-Modeling Interventions

自建模干预

一种AI对齐研究方法,让模型建立关于自身行为模式的内部表征,通过在表征层面施加干预来识别并修正涌现性错位,旨在从模型内部机制层面而非输入输出层解决对齐问题

来源文章