模型Hidden-Unit BERT
HuBERT
Meta AI于2021年提出的自监督语音表示模型,借鉴BERT的掩码预测机制,通过K-means聚类生成伪标签并训练模型预测被掩盖音频帧,无需人工标注即可学习丰富语音表示
时间轴 (近 90 天)
10月2日
该研究采用受控的英语/法语 HuBERT 双语实验环境进行对照实验
待验证50%
10月2日
HuBERT(Hidden-Unit BERT)是Meta AI于2021年提出的自监督语音表示模型,借鉴NLP领域BERT的掩码预测机制
待验证50%
10月2日
当前实验仅在英语/法语两种相对接近的语言上验证,对于差异更大的语系(如中文与英语)结论是否成立仍有待研究
待验证50%
9月11日
采用大规模预训练模型(如Whisper、HuBERT)作为基础在特定任务上微调,可将小数据集重新定义为少样本微调场景
待验证50%