概念Activation Function
激活函数
神经网络中套在线性变换外层的非线性运算，作用是将线性关系转化为非线性关系，显著提升网络的表达能力。常见的激活函数包括Sigmoid、Tanh、ReLU等，经历了从早期S形函数到ReLU系列的演进历程。
时间轴 (近 90 天)
10月19日
不同的非线性激活函数会导致不同的专门化模式，影响网络最终学习到的特征质量。
待验证50%
10月13日
没有激活函数的神经网络无论多深都只能表示线性函数。
待验证50%
8月31日
人工神经元接收多个输入信号，对每个输入乘以权重，加上偏置，然后通过激活函数决定是否激发输出
待验证50%