概念Parametric ReLU / 参数化ReLU
PReLU
可训练激活函数的代表性实现，在ReLU基础上将负半轴斜率设为可学习参数，使网络能够自适应调整负区间的非线性响应，参数开销极小
时间轴 (近 90 天)
10月6日
PReLU（Parametric ReLU）将负半轴的斜率作为可学习参数，而非固定为0或某个常数
待验证50%
10月6日
对512个通道的卷积层使用channel-wise的PReLU仅增加512个标量参数，相比该层数百万个权重参数几乎可忽略不计
待验证50%
10月6日
一个务实的做法是先用标准激活函数训练出稳定基线，再逐步替换为PReLU或可训练Swish等轻量级方案，通过A/B对比验证是否改善WER
待验证50%