[控场AI]
人物

Rico Sennrich

计算语言学家,爱丁堡大学研究员,2016年提出将 BPE 算法应用于神经机器翻译子词分词,是子词分词方法的奠基人之一

时间轴 (近 90 天)

10月13日

Rico Sennrich 等人在 2016 年的论文《Neural Machine Translation of Rare Words with Subword Units》中量化:在一亿词的德语语料上,保留完整单词需要 175 万条词表,测试集仍留下 1,079 个未知词;拆成字符需要约 3,000 个符号,但语料膨胀到 5.5 亿个位置;子词方法 BPE 约 63,000 个符号、1.12 亿个位置、零个未知词。

待验证50%

全部知识事实 (1)

来源文章