[控场AI]
概念hidden state decoding

隐藏状态解码

一种可解释性技术,不依赖模型输出文本,而是直接读取模型内部神经激活(隐藏状态),用这些表征来推测模型倾向作出的决策或分类。

时间轴 (近 90 天)

10月13日

研究通过反事实审计检验法律AI的思维链忠实性:在保持案件事实固定不变的前提下,替换模型援引的法律依据,并从模型隐藏状态解码裁决倾向,以判断裁决是否真的依赖所援引的依据。

待验证50%

全部知识事实 (1)

来源文章