模型Multilingual BERT
mBERT
谷歌推出的多语言BERT模型,在104种语言的维基百科语料上联合预训练,支持跨语言迁移学习任务
时间轴 (近 90 天)
10月8日
在六组语言配对中,LaBSE的排序结果与mBERT的排序结果在其中4组上达成一致
待验证50%
10月5日
相比多语言BERT(mBERT),AraBERT对阿拉伯语的形态切分和语义表征有显著优化,尤其在形态还原和词根分析方面
待验证50%
9月16日
现有多语言模型如mBERT、XLM-R在低资源语言上的表现远逊于英语
待验证50%
9月15日
mBERT和PaLM 2是谷歌的多语言预训练模型
待验证50%