[控场AI]
· 3 分钟阅读· 1,854 字

APRIL:呼吸音分类的免回放增量学习新框架

APRIL:呼吸音分类的免回放增量学习新框架

APRIL框架通过冻结BEATs骨干与低秩专家隔离,实现隐私约束下无回放的呼吸音域增量学习。

针对呼吸音分类长期部署中的域偏移与隐私禁止回放问题,研究者提出APRIL框架。该框架基于共享冻结的BEATs骨干网络,顺序继承并隔离低秩专家,避免新域适应干扰旧模型。其多级原型路由器检索前二候选专家,融合域路由后验与分类置信度,按匹配歧义自适应加权选择最终模型。在ICBHI和SPRSound数据集上构建设备与时间增量基准,正向与反向域顺序下,APRIL在五个随机种子中均取得最高最终会话平均分(ICBHI达64.4%和65.4%,SPRSound达83.1%和82.2%),平均遗忘率低于1.0%。该工作为隐私约束下的连续呼吸音分类提供了可靠范式。

呼吸音分类的长期部署面临域偏移挑战——设备更新、采集环境变化导致数据分布漂移,而隐私法规又禁止回放历史数据。传统持续学习易遗忘旧知识,多专家系统虽能避免参数干扰,却在推理时难以选择正确专家。针对此矛盾,研究者提出APRIL框架,通过共享冻结的BEATs骨干网络,顺序继承并隔离低秩专家,实现新域适应且不改变旧模型。其多级原型路由器检索前二候选专家,融合域路由后验与分类置信度,以匹配歧义自适应加权选择最终模型。在ICBHI和SPRSound数据集上构建设备与时间增量基准,正向与反向域顺序下,APRIL在五个随机种子中均取得最高最终会话平均分:ICBHI达64.4%和65.4%,SPRSound达83.1%和82.2%,且平均遗忘率低于1.0%。该工作为隐私约束下的连续呼吸音分类提供了可靠范式。

APRIL框架概览

呼吸音分类的持续学习困境

呼吸音自动分类可实现连续、无创的呼吸评估,但长期部署面临域偏移问题。随着录音设备更新和采集时期变化,声学分布发生漂移,模型性能下降。更棘手的是,隐私与治理法规常禁止回放历史数据,使得顺序学习极易覆盖先前知识。保留专用域专家可防止参数干扰,但推理时在重叠声学分布且无域标签的情况下,选择正确专家十分困难。

域偏移(Domain Shift) 指模型部署后遇到的输入数据分布与训练数据分布不一致的现象。在呼吸音分类中,设备更换(如麦克风灵敏度、频响不同)、采集环境变化(背景噪声、患者体位)都会导致声学特征分布漂移,使模型泛化性能显著下降。

无样本持续学习(Sample-Free Continual Learning) 是一类不允许回放历史数据的持续学习设定。由于隐私法规(如HIPAA、GDPR)限制医疗音频的存储与复用,模型只能在新域数据上顺序更新,同时需保留旧域知识,这极大增加了灾难性遗忘的风险。

APRIL框架:专家隔离与歧义感知路由

APRIL是一种无样本的域增量学习框架。它基于共享冻结的BEATs骨干网络,顺序继承并隔离低秩专家,使新域适应不干扰旧模型。其核心是多级原型路由器:先检索前二候选专家,再融合域路由后验与分类置信度,根据匹配歧义动态加权选择最终模型。这种设计在专家重叠时能自适应决策,避免硬切换带来的错误。

BEATs(Bidirectional Encoder representation from Audio Transformers) 是一种预训练的音频Transformer骨干网络,通过大规模音频数据自监督学习获得通用声学表征。APRIL将其冻结作为共享特征提取器,避免因微调导致表征漂移,同时大幅减少可训练参数,使低秩专家模块能够轻量地适配不同域。

低秩专家(Low-Rank Expert) 指通过低秩分解(如LoRA)构造的轻量适配模块。每个专家仅包含少量可训练参数,插入冻结骨干的特定层中,学习域特定的残差调整。顺序继承时,新专家独立初始化,旧专家保持冻结,从而在参数层面隔离不同域的知识,避免相互干扰。

基准测试与性能表现

研究者在ICBHI和SPRSound数据集上构建了标准化的设备增量与时间增量基准,覆盖正向和反向域顺序。五个随机种子评估显示,APRIL在最终会话平均分上 consistently 领先对比的持续学习方法:ICBHI正向64.4%、反向65.4%;SPRSound正向83.1%、反向82.2%。更关键的是,所有协议下平均遗忘率低于1.0%,证明其无需数据回放即可实现稳健域适应与长期知识保留。

最终会话平均分(Final Session Average Score) 是域增量学习中的常用评价指标,指模型在所有测试域上最终性能的平均值,反映模型对已学习域的整体保持能力。平均遗忘率(Average Forgetting) 则衡量模型在学习新域后,旧域性能相对于其历史最佳值的下降程度,数值越低说明遗忘越少。两者结合可全面评估模型在顺序学习中的稳定性和可塑性。

隐私保护与临床部署意义

APRIL的免回放特性契合医疗场景的隐私要求,专家隔离机制避免参数干扰,歧义感知路由提升推理可靠性。这为真实医疗环境中连续呼吸音分类的部署提供了可行路径,尤其适合设备迭代频繁、数据不能回溯的场景。未来可探索更多模态融合与动态专家扩展。

#呼吸音分类#域增量学习#持续学习#专家路由#隐私保护#BEATs#灾难性遗忘
分享:

相关推荐