在医疗诊断或信贷拒贷等场景中，缺乏可解释性会阻碍问责与纠错，也使开发者难以预判系统在边缘案例中的行为。