ELU

PreCap是一种激活函数，其核心构建块CapExp是一个指数单元，当输入超过阈值后切换为线性延伸，等价于一个经过平移和缩放的ELU。

普通ELU在整体表现上与SPreCap相当，提示CapExp带来的增益可能不完全来自其特殊设计，而是与ELU家族的整体特性有关。