待验证50% 置信事实精确时间
早期可解释性研究发现某个神经元同时对猫脸和汽车前部强烈激活,这类现象被称为多义性(polysemanticity)。
1
来源数
50%
置信度
长期有效
时效性
2026/10/22
首次发现
来源
神经网络原本就是「干净」的?Goodfire可解释性长文解读
youtubeXiaoyu Li2026/10/16
涉及实体
相关事实
待验证OpenAI 2020年的网络映射指南将该神经元描述为对「猫脸、汽车前脸和猫腿」有反应。76% 相似待验证2017年,Google的研究者Chris Olah、Alexander Mordvintsev和Ludwig Schubert展示了一种方法:从随机噪声出发,反复微调像素,让某个神经元的激活值不断升高,最终生成的图像里出现了猫脸、狐狸脸和汽车前脸。69% 相似待验证Nick Cammarata分析指出,InceptionV1的4e:55神经元实际上检测的是V字几何形状,而非猫脸或汽车车头。67% 相似待验证Camerota重新分析后认为,神经元4E.55实为V形检测器,其“猫车混合”表象是可视化优化算法利用训练数据偏差(动物脸照片多)人为制造的假象。66% 相似待验证图像识别中浅层神经元响应边缘纹理等低级特征,深层神经元对整体概念做出反应64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1085037API
curl https://kongchang.com/api/v1/knowledge/claims/1085037MCP
get_claim(id=1085037)