概念polysemanticity
神经元多义性
神经网络中单个神经元同时对多种不相关概念产生响应的现象,是机制可解释性研究的重要出发点,推动了稀疏自编码器等方法的发展
时间轴 (近 90 天)
10月27日
单个神经元往往具有多义性(polysemanticity),即同时对多种不相关概念产生响应,因此后续研究转向稀疏自编码器(SAE)等方法提取更纯净的特征方向。
待验证50%
神经网络中单个神经元同时对多种不相关概念产生响应的现象,是机制可解释性研究的重要出发点,推动了稀疏自编码器等方法的发展
单个神经元往往具有多义性(polysemanticity),即同时对多种不相关概念产生响应,因此后续研究转向稀疏自编码器(SAE)等方法提取更纯净的特征方向。