一阶分析

一阶分析表明，小的权重扰动主要通过其诱导的logit偏移发挥作用。

一阶分析的基本思路是将权重扰动对模型输出的影响做泰勒展开，只保留一阶线性项：输出变化约等于扰动向量与输出对权重的梯度的内积。