知识蒸馏的产物仍是神经网络，运行时需要前向计算；而编译式方案试图将能力固化为规则或轻量分类器，运行时几乎不涉及模型推理。