人物
Nick Camerata
AI可解释性研究员,曾参与OpenAI早期可解释性工作,现任职于Goodfire,是叠加理论提出者之一
时间轴 (近 90 天)
10月17日
Goodfire研究员Nick Camerata发表长文,核心论点是神经网络内部并非混乱叠加,而是可解读的。
待验证50%
10月17日
Camerata重新分析2019年被认为是唯一叠加电路证据的实验,发现并非特征叠加,而是姿态编码,当年可视化方法有缺陷。
待验证50%
10月17日
Camerata提出“递归泛化”概念:神经元在训练中沿相关方向分叉生长,每一叉都有来历,而非硬塞叠加。
待验证50%
10月17日
Camerata主张直接读取原始网络(探索式解读),反对先训练稀疏自编码器(SAE)拆解网络的方法。
待验证50%
10月17日
Camerata认为叠加理论应从默认假设降级为最后才考虑的假设;模型看不懂更可能是工具、架构或递归泛化原因。
待验证50%