概念Net2Wider
Net2WiderNet
一种网络变形方法,通过复制神经元并调整权重来扩展网络宽度,属于知识迁移中的净宽度扩展技术
时间轴 (近 90 天)
10月27日
神经元分裂时,让两个子神经元各继承父神经元一半的输出权重(如出边权重乘以 0.5),并在初始时刻保持二者参数相同,可以在分裂瞬间保持网络函数不变。
待验证50%
一种网络变形方法,通过复制神经元并调整权重来扩展网络宽度,属于知识迁移中的净宽度扩展技术
神经元分裂时,让两个子神经元各继承父神经元一半的输出权重(如出边权重乘以 0.5),并在初始时刻保持二者参数相同,可以在分裂瞬间保持网络函数不变。