模型重参数化

模型重参数化是指在不改变网络输出函数的前提下，通过数学等价变换调整计算图结构的技术，严格保证变换前后输出完全一致，不需要任何微调。Priming借用了重参数化的思想，但不要求数学等价，因此需要少量微调。

模型重参数化的经典例子包括将卷积层与后续BatchNorm层融合为单个卷积操作，或利用线性代数恒等变换重组矩阵乘法顺序。