概念可微松弛方法
可微松弛
将离散组合优化问题转化为连续优化问题的数学技巧，通过引入可学习的连续重要性分数使梯度能回传到排序依据上，常用于神经网络架构搜索和剪枝
时间轴 (近 90 天)
10月15日
该研究对功能单元排序问题做可微松弛，联合排序每一个 MLP 神经元和每一个注意力头，无需权重校正或重训练。
待验证50%
将离散组合优化问题转化为连续优化问题的数学技巧，通过引入可学习的连续重要性分数使梯度能回传到排序依据上，常用于神经网络架构搜索和剪枝
该研究对功能单元排序问题做可微松弛，联合排序每一个 MLP 神经元和每一个注意力头，无需权重校正或重训练。