可解释自杀风险评估：从预测走向证据溯源

为什么风险预测还不够

从社交媒体帖子中识别自杀风险信号，一直是心理健康领域与AI交叉研究的重点课题。社交网络服务（SNS）上的海量文本中隐藏着大量心理危机信号，及时识别这些信号对于早期干预意义重大。然而，当前主流做法往往止步于“风险分类”——即判断某条帖子是否属于高风险，这种做法存在明显局限。

单纯的风险等级判断像是一个“黑箱”：它给出了结论，却无法说明依据何在，也无法揭示风险背后的心理社会因素（psychosocial factors）。对于临床工作者和干预人员而言，知道“为什么”往往比知道“是什么”更重要。一条帖子被判为高风险，究竟是哪些文字触发了判断？背后反映的是孤独、丧失、人际冲突还是其他深层诱因？这些信息才是实际干预的抓手。

基于 IEEE BigData 2026 可解释自杀风险检测挑战赛（Explainable Suicide Risk Detection Challenge），这项研究提出了一套完整框架，试图让风险评估从“给结论”走向“讲证据、析因素”。

三位一体的框架设计

该框架由三个相互关联的任务模块构成：风险评估（Risk Assessment）、证据溯源（Evidence Grounding）与因素识别（Factor Identification）。这种设计让系统输出不再是一个孤立的风险标签，而是一个可被审查、可被理解的完整分析链条。

风险评估：按长度路由处理

社交媒体帖子的长度差异极大，从寥寥数字到长篇倾诉都有可能。研究者在风险评估模块中引入了“基于长度的路由”（length-based routing）机制，针对不同长度的帖子采用适配的处理策略。这一设计直面了实际数据的异质性问题——短文本和长文本在语义密度、上下文信息量上截然不同，用统一模型处理往往顾此失彼。

该模块最终取得了 0.8088 的加权 F1（Weighted F1）成绩，显示出在风险等级判断上的可靠性能。

加权F1（Weighted F1）是多分类评估中常用的综合指标，它对每个类别的F1分数按该类别在数据集中的样本量加权平均，能够在类别分布不均衡时给出更贴近整体表现的评估结果。与之对应的Macro F1则对每个类别赋予相同权重，对稀有类别更为敏感。自杀风险数据集中，高风险样本通常远少于低风险或无风险样本，因此这两种指标在此类任务中各有意义：加权F1反映系统的整体可靠性，而Macro F1更能揭示系统对少数类（如高风险人群）的识别能力。

证据溯源：让判断有据可查

证据溯源模块负责从原文中定位支撑风险判断的关键短语。更关键的是，研究引入了“风险—证据约束”（Risk-Evidence constraint），确保提取出的证据与风险预测结果保持一致性。这解决了一个常见的可解释性困境：模型给出的“解释”有时与其实际决策逻辑脱节。通过约束机制，系统提取的文本证据能够真正对应风险判断的依据。

证据溯源在测试集上取得了 0.7605 的 Macro row F1，表明它能较准确地标注出触发风险信号的具体文本片段。

可解释AI（Explainable AI，XAI）领域长期存在"忠实性"（faithfulness）问题：模型生成的解释未必真实反映其决策过程，而只是事后的合理化叙述。在高风险应用场景中，这一问题尤为危险——看似合理的解释可能掩盖错误的决策逻辑。该研究引入的"风险—证据约束"机制，本质上是一种一致性约束，要求提取出的证据文本必须与风险预测标签在逻辑上相互支撑，从而在架构层面部分解决忠实性问题，而非仅依赖事后解释模块。

双验证器破解因素识别难题

因素识别是三个任务中最具挑战性的部分，目标是识别帖子背后细粒度的心理社会因素。研究采用了两个验证器协同工作的策略。

分类法验证器与证据感知验证器

第一个是“分类法验证器”（Taxonomy Verifier），聚焦于因素本身的语义特征，依据预定义的因素分类体系进行判断。第二个是“证据感知验证器”（Evidence-Aware Verifier），它利用因素特有的词汇—语义线索（lexical-semantic cues）来筛选信息量高的正样本训练单元。

两个验证器各有侧重：前者强调语义归类的准确性，后者强调从文本证据中捕捉判别性信号。最终，系统将二者的预测概率加以融合，产出最终的因素判断结果。这种集成策略在一定程度上弥补了单一方法的盲区。

不过，因素识别模块的 Macro F1 仅为 0.5562，明显低于前两个任务。这反映出心理社会因素识别本身的高度复杂性——因素之间边界模糊、样本分布不均、语义重叠严重，仍是该领域尚未攻克的难点。

心理社会因素（psychosocial factors）是指影响个体心理状态和行为的社会与心理层面的复合因素，在自杀风险评估领域通常涵盖人际关系冲突、失业或经济压力、丧亲、孤独感、药物滥用、既往创伤等多个维度。这些因素在文本中往往以隐晦、间接的方式表达，且相互之间存在高度语义重叠——例如"孤独"与"人际冲突"在话语层面可能共享大量相似词汇。这正是因素识别任务的核心难度所在：它要求模型具备细粒度的语义辨别能力，而非简单的关键词匹配，同时还需应对各因素类别间严重的样本不均衡问题。

迈向可解释的心理健康AI

这项工作的核心价值，在于它把自杀风险评估从单纯的“风险等级预测”推进到了更具解释性的分析层面。系统不仅告诉你一条帖子是否高风险，还能指出支撑该判断的具体文字证据，并提供背后心理社会因素的细粒度信息。

从三项任务的 F1 成绩看，风险评估（0.8088）与证据溯源（0.7605）已达到相当实用的水平，而因素识别（0.5562）则揭示了未来改进的方向。对于实际应用场景而言，这种可解释性尤为珍贵——它让AI的判断能够被人类专家复核，也更符合心理健康干预对透明度和可信度的严苛要求。

在心理健康这类高风险、高敏感的应用领域，可解释性不是锦上添花，而是落地的前提。一个无法说明理由的系统，很难真正进入临床或干预流程。这项研究提供的框架范式——风险、证据、因素三位一体——为构建可信赖的心理健康AI工具提供了有价值的参考路径。