交叉注意力
发生在两个不同序列之间的注意力机制，查询来自一个序列，键和值来自另一个序列，最初为编码器-解码器翻译任务设计。
核心事实
时间轴 (近 90 天)
该研究将3D运动生成与视频生成解耦，3D运动在独立模型中生成，通过少量交叉注意力层连接到预训练视频模型。
LatComm仅训练交叉注意力读取模块，不微调编码器和接收器。
交叉注意力（Cross-Attention）发生在两个不同序列之间，查询来自一个序列，键和值来自另一个序列，最初为编码器-解码器翻译任务设计。
交叉注意力机制源自Transformer架构，让一个序列的查询去检索另一个序列的键值对，适合双源融合场景
在Transformer架构中，交叉注意力是融合多源信息的标准机制，当前检查特征作为query，历史检查特征作为key和value
交叉注意力融合方式往往优于简单拼接，因为它保留了模态间的灵活交互能力
现代VLM通常采用对比学习或交叉注意力机制来建立视觉token和文本token之间的对应关系
全部知识事实 (8)
在Transformer架构中，交叉注意力是融合多源信息的标准机制，当前检查特征作为query，历史检查特征作为key和value
75%已验证Transformer的编码器负责将输入序列映射为上下文表示，适用于分类理解类任务；解码器自回归生成输出序列，适用于文本生成任务
65%待验证该研究将3D运动生成与视频生成解耦，3D运动在独立模型中生成，通过少量交叉注意力层连接到预训练视频模型。
50%待验证LatComm仅训练交叉注意力读取模块，不微调编码器和接收器。
50%待验证交叉注意力（Cross-Attention）发生在两个不同序列之间，查询来自一个序列，键和值来自另一个序列，最初为编码器-解码器翻译任务设计。
50%待验证交叉注意力机制源自Transformer架构，让一个序列的查询去检索另一个序列的键值对，适合双源融合场景
50%待验证交叉注意力融合方式往往优于简单拼接，因为它保留了模态间的灵活交互能力
50%待验证现代VLM通常采用对比学习或交叉注意力机制来建立视觉token和文本token之间的对应关系
50%