概念潜在分词 / 隐式分词
Latent Tokenization
一种不依赖显式离散Token的文本表示范式,在连续潜在空间中进行表示与建模,是对传统分词器的潜在替代方向之一
时间轴 (近 90 天)
9月30日
综述前瞻性讨论了潜在分词(Latent Tokenization)和视觉分词(Visual Tokenization)等可能取代传统分词器的新范式
待验证50%
一种不依赖显式离散Token的文本表示范式,在连续潜在空间中进行表示与建模,是对传统分词器的潜在替代方向之一
综述前瞻性讨论了潜在分词(Latent Tokenization)和视觉分词(Visual Tokenization)等可能取代传统分词器的新范式