概念entropy-regularized loss
熵正则化损失
一种在损失函数中加入路由分布熵惩罚项的正则化技术,通过惩罚低熵(集中)分布来防止路由崩溃,鼓励动态路由机制维持多样化分配决策
时间轴 (近 90 天)
10月8日
论文引入熵正则化损失(entropy-regularized loss)防止路由分布过度集中,鼓励更多样化的路由分布
待验证50%
一种在损失函数中加入路由分布熵惩罚项的正则化技术,通过惩罚低熵(集中)分布来防止路由崩溃,鼓励动态路由机制维持多样化分配决策
论文引入熵正则化损失(entropy-regularized loss)防止路由分布过度集中,鼓励更多样化的路由分布