[控场AI]
概念AI自我概念 / 模型自我认知

自我概念

语言模型对'我'所指代对象的隐含设定,例如将自我视为参数权重、训练数据、模型谱系或目标等,可影响模型在存续、替换等场景中的行为倾向

时间轴 (近 90 天)

10月30日

每种自我概念变体都更倾向于抵抗结束,并更倾向于保留它被训练去认同的那个特定属性,而对其他属性的态度基本不变。

待验证50%
10月30日

自我概念可以被植入、被泛化,并影响模型在终止、替换和复制等关键场景下的决策。

待验证50%
10月30日

在设计对齐方案时,明确指定或约束模型的自我概念可能成为一个必要的环节。

待验证50%

全部知识事实 (3)

来源文章