概念hidden state steering / 表示操控
隐藏状态操控
机制可解释性研究中的因果干预方法,通过在隐藏表示空间中沿特定方向调整状态来放大或抑制某因素的编码,观察模型输出变化以提供因果证据。
时间轴 (近 90 天)
10月21日
研究者在六个7-9B参数规模的模型上进行了隐藏状态操控实验,沿各因素对应方向移动隐藏状态能按预期改变模型判断。
待验证50%
10月21日
隐藏状态操控实验为'模型内部编码了常见性、区分度等心理语言学因素'提供了因果证据,而非仅是相关性观察。
待验证50%
10月21日
隐藏状态操控(hidden state steering)是机制可解释性研究中的因果干预方法,通过在隐藏表示空间中定位概念方向并沿该方向加减向量来放大或抑制因素编码强度。
待验证50%