[控场AI]
概念ToMe / 词元合并

Token Merging

一种推理阶段的Transformer加速技术,通过二分软匹配算法在每个Transformer层中识别并合并余弦相似度最高的冗余token,无需重新训练模型即可降低计算复杂度,最初用于加速视觉Transformer推理

来源文章