[控场AI]
人物

Nick Camerata

AI可解释性研究员,曾参与OpenAI早期可解释性工作,现任职于Goodfire,是叠加理论提出者之一

时间轴 (近 90 天)

10月17日

Goodfire研究员Nick Camerata发表长文,核心论点是神经网络内部并非混乱叠加,而是可解读的。

待验证50%
10月17日

Camerata重新分析2019年被认为是唯一叠加电路证据的实验,发现并非特征叠加,而是姿态编码,当年可视化方法有缺陷。

待验证50%
10月17日

Camerata提出“递归泛化”概念:神经元在训练中沿相关方向分叉生长,每一叉都有来历,而非硬塞叠加。

待验证50%
10月17日

Camerata主张直接读取原始网络(探索式解读),反对先训练稀疏自编码器(SAE)拆解网络的方法。

待验证50%
10月17日

Camerata认为叠加理论应从默认假设降级为最后才考虑的假设;模型看不懂更可能是工具、架构或递归泛化原因。

待验证50%

全部知识事实 (5)

来源文章