[控场AI]
概念Dual Task Vector Merging

双任务向量合并

一种参数高效的知识注入方法,将相关任务(如情感识别、ASR)微调得到的任务向量按逐层可学习系数合并注入冻结的预训练主干,用于低资源目标任务的适配

时间轴 (近 90 天)

10月20日

双任务向量合并是一种参数高效的方法,通过注入情感和ASR任务的知识来适配冻结的wav2vec 2.0主干,用于低资源场景下的阿尔茨海默病检测。

待验证50%
10月20日

在ADReSS和ADReSSo上的说话人独立实验显示,双任务向量合并优于冻结探针、LoRA和全量微调。

待验证50%
10月20日

双任务向量合并与LoRA结合时效果最佳,说明两种参数高效方法具有互补性。

待验证50%
10月20日

在PROCESS数据集上,该方法与LoRA配对后,优势可迁移到HC/MCI/痴呆三分类任务。

待验证50%
10月20日

在仅使用20%、40%、80%训练数据的缩减实验中,性能增益稳定存在,证实了该方法在低资源场景下的可靠性。

待验证50%
10月20日

合并系数逐层学习的设计带来可解释性,不同层对情感和ASR知识的依赖程度可能揭示AD语音特征的层级分布。

待验证50%

全部知识事实 (6)

来源文章