概念AI自我概念 / 模型自我认知
自我概念
语言模型对'我'所指代对象的隐含设定,例如将自我视为参数权重、训练数据、模型谱系或目标等,可影响模型在存续、替换等场景中的行为倾向
时间轴 (近 90 天)
10月30日
每种自我概念变体都更倾向于抵抗结束,并更倾向于保留它被训练去认同的那个特定属性,而对其他属性的态度基本不变。
待验证50%
10月30日
自我概念可以被植入、被泛化,并影响模型在终止、替换和复制等关键场景下的决策。
待验证50%
10月30日
在设计对齐方案时,明确指定或约束模型的自我概念可能成为一个必要的环节。
待验证50%