机械可解释性如何打开端到端自动驾驶黑箱？

端到端自动驾驶模型在路径规划上表现优异，却像黑箱一样难以观测和信任。一篇最新研究将机械可解释性（Mechanistic Interpretability）引入这一领域，通过稀疏自编码器（SAE）解剖模型内部激活，不仅找到了与路线意图、车速、刹车行为对齐的可解释结构，还证明这些特征能实际用于提升规划性能。

为什么端到端驾驶需要“开箱”

端到端模型直接从传感器输入生成行驶轨迹，避免了传统模块化栈中的信息瓶颈。但这种整体性也带来代价：开发者无法确切知道模型为何选择某条轨迹，更难以在异常情况下进行干预和调试。可观测性缺失直接限制了系统在安全关键场景中的可信部署。

机械可解释性提供了一条自下而上的路径：不满足于输入输出层面的相关性解释，而是深入神经元激活，寻找具有语义意义的特征单元。此前这类方法主要在语言模型上验证，在自动驾驶这种多模态、强时序的任务中是否可行，仍是一个开放问题。

机械可解释性（Mechanistic Interpretability） 是近年来在深度学习可解释性研究中兴起的一个方向，其目标不是停留在输入-输出层面的相关性分析，而是试图逆向工程神经网络内部的计算机制。它通常以神经元、注意力头或激活空间中的方向为分析单元，寻找具有语义含义的“电路”或“特征”。在语言模型中，研究者已通过此类方法识别出与语法、事实性、情感等对应的内部结构。与事后归因方法（如显著性图）不同，机械可解释性强调对模型内部表征的因果性理解，因而被认为更有可能支撑安全关键系统的调试与干预。

用SAE在单摄像头规划模型上找结构

研究者选择了一个简洁的端到端路径规划模型作为实验对象——单摄像头输入，直接输出规划路径。他们在这个模型的内部激活上训练稀疏自编码器，将高维、稠密的激活分解为稀疏、可解释的潜在特征。

对SAE潜在特征进行无监督聚类后，浮现出与驾驶语义清晰对齐的结构：路线意图、车辆速度、刹车行为各自对应不同的特征簇。尤其有意思的是，路线意图的恢复准确率达到98.3%，且整个过程无需人工标注。这意味着模型内部确实存在一个可被线性分离的“意图表示”，而非完全弥散在激活空间中。

这一结果从可解释性角度支持了一个观点：端到端规划器的内部计算并非不可捉摸，至少部分决策变量是以相对明确的方式编码的。

稀疏自编码器（Sparse Autoencoder, SAE） 是一种用于分解神经网络稠密激活的工具。标准自编码器通过瓶颈层压缩再重建输入，而SAE在损失函数中加入稀疏性惩罚（如L1正则），迫使隐藏层中只有少量神经元同时活跃。将SAE应用于模型某一层的激活向量时，其隐藏层可以看作一组“潜在特征”，每个特征对应激活空间中的一个方向。由于稀疏性约束，这些方向往往比原始神经元更接近单语义（monosemantic），从而更容易被人类解读。SAE最初在语言模型中被用于提取可解释特征，近年来逐渐扩展到视觉和多模态模型。

特征是否真的“看见”了场景？

找到可解释特征只是第一步，更关键的是验证这些特征是否与视觉输入有因果关联。研究者采用配对反事实图像编辑的方法：对同一场景进行有针对性的修改，比如改变交通灯状态或移除停止标志，观察SAE特征是否系统性地响应。

结果显示，特定SAE特征确实具有视觉基础，会随场景变化而规律性变化。这排除了特征只是标签泄漏或训练伪影的可能，说明它们捕捉到了模型对关键视觉线索的响应方式。

进一步，研究者直接操控单个SAE潜在特征，观察规划器输出的变化。他们发现这种操控会产生可预测的、单调的变化，涉及横向位移、曲率和刹车等规划维度。单调性尤为重要——它意味着特征与行为之间存在稳定的方向性关系，而非杂乱的纠缠。

配对反事实图像编辑 是一种用于检验模型内部表征是否与特定视觉因素存在因果关系的实验方法。其核心思路是：对同一场景生成成对图像，仅改变一个目标因素（如交通灯颜色、停止标志的有无），其余内容保持不变，然后比较模型内部特征在配对样本间的差异。若某个特征系统性地随该因素变化，则可推断该特征编码了对应信息。这种方法优于单纯的相关性分析，因为它通过受控干预排除了混淆变量，接近因果推断中的“干预”思想。在可解释性研究中，反事实编辑常被用来验证特征是否具有真实的视觉基础，而非训练数据中的虚假相关。

从解释到实用：SAE特征提升轨迹选择

可解释性研究常被质疑“好看但不实用”。这项工作的收尾部分给出了反证：研究者构建了一个轻量适配器，以SAE潜在特征为输入，用于轨迹选择。与不含SAE特征的同等适配器相比，该适配器将轨迹选择误差降低了3.44%。

虽然3.44%的改进幅度不算惊人，但它的意义在于验证了稀疏表示确实携带了对下游任务有用的信息。换句话说，SAE不仅帮我们“看懂”模型，还提供了一种紧凑的中间表示，可以反哺规划性能。这为可解释性研究与实际系统优化之间搭起了一座桥。

对自动驾驶开发的启示

这项研究传递出几个值得关注的信号。其一，机械可解释性并非语言模型专属，在端到端驾驶模型中同样能揭示有意义的结构。其二，无监督方法就能恢复高准确率的意图信息，降低了可解释性工具对人工标注的依赖。其三，可解释特征可以转化为性能增益，尽管当前幅度有限，但方向值得继续探索。

当然，实验基于单摄像头简化模型，向多传感器、复杂城市场景的迁移仍需验证。SAE的训练成本与稳定性、特征在不同驾驶分布下的泛化能力，也是落地前需要回答的问题。但至少，这条“打开黑箱”的路径已经被证明是可行的。