目前围绕大模型的可解释性工具大致分为注意力可视化、激活探针（probing）、特征归因（如梯度类方法）以及更偏工程侧的日志与追踪。