概念hidden state decoding
隐藏状态解码
一种可解释性技术,不依赖模型输出文本,而是直接读取模型内部神经激活(隐藏状态),用这些表征来推测模型倾向作出的决策或分类。
时间轴 (近 90 天)
10月13日
研究通过反事实审计检验法律AI的思维链忠实性:在保持案件事实固定不变的前提下,替换模型援引的法律依据,并从模型隐藏状态解码裁决倾向,以判断裁决是否真的依赖所援引的依据。
待验证50%
一种可解释性技术,不依赖模型输出文本,而是直接读取模型内部神经激活(隐藏状态),用这些表征来推测模型倾向作出的决策或分类。
研究通过反事实审计检验法律AI的思维链忠实性:在保持案件事实固定不变的前提下,替换模型援引的法律依据,并从模型隐藏状态解码裁决倾向,以判断裁决是否真的依赖所援引的依据。