概念contextualized representation / 动态词向量
上下文相关表示
由模型根据当前句子动态生成的词表示，同一词在不同上下文中得到不同向量，区别于为每个词分配唯一向量的静态词嵌入
时间轴 (近 90 天)
10月18日
模型对上下文向量做加权平均（通过内容投影 W^C），得到全新的上下文相关表示向量 hᵢ。
待验证50%
10月18日
上下文相关表示由模型根据当前句子动态生成，同一词在不同上下文中得到不同向量。
待验证50%
由模型根据当前句子动态生成的词表示，同一词在不同上下文中得到不同向量，区别于为每个词分配唯一向量的静态词嵌入
模型对上下文向量做加权平均（通过内容投影 W^C），得到全新的上下文相关表示向量 hᵢ。
上下文相关表示由模型根据当前句子动态生成，同一词在不同上下文中得到不同向量。