人物

Nick Camerota

Goodfire的研究员，专注于神经网络可解释性研究，提出了递归泛化等理论，致力于揭示神经网络内部表征机制。

时间轴 (近 90 天)

10月22日

Goodfire的Nick Camerota发表研究《Neural Networks Are Already Clean》，提出神经网络本质上是干净的，混乱可能源于观测工具而非网络本身。

待验证50%

10月22日

Camerota重新分析后认为，神经元4E.55实为V形检测器，其“猫车混合”表象是可视化优化算法利用训练数据偏差（动物脸照片多）人为制造的假象。

待验证50%

10月22日

Camerota主张放弃“枚举式可解释性”（为每个特征建立穷举表格），转向“探索式可解释性”（用类似Google Maps的方式缩放向量空间、跟随交通流）。

待验证50%

Goodfire的Nick Camerota发表研究《Neural Networks Are Already Clean》，提出神经网络本质上是干净的，混乱可能源于观测工具而非网络本身。

Camerota重新分析后认为，神经元4E.55实为V形检测器，其“猫车混合”表象是可视化优化算法利用训练数据偏差（动物脸照片多）人为制造的假象。

Camerota主张放弃“枚举式可解释性”（为每个特征建立穷举表格），转向“探索式可解释性”（用类似Google Maps的方式缩放向量空间、跟随交通流）。