二值神经网络

二值神经网络（BNN）将权重和激活值都约束为±1，前向传播中的乘加运算可简化为XNOR与popcount，极大降低计算和存储开销。

二值化会带来显著的精度损失，且训练不稳定，因此常与知识蒸馏、多阶段训练结合使用。