待验证50% 置信事实精确时间
Mixture-of-Transformers（MoT）是一种在共享主干权重的基础上，为不同模态或任务配置独立的注意力或归一化适配模块的 Transformer 架构变体。
1
来源数
50%
置信度
长期有效
时效性
2026/10/16
首次发现
来源
涉及实体
相关事实
待验证Transformer架构中的跨模态注意力机制大幅提升了多模态融合效果，代表性工作包括CMU-MOSI基准上的MulT模型和CLIP/CLAP64% 相似待验证Reviser是一个仅含解码器（decoder-only）的Transformer，将生成回复的过程定义为在可变画布上执行一系列相对光标的动作62% 相似待验证KnOTS专门针对Transformer中的正交变换对称性设计对齐策略61% 相似已验证The Transformer's core innovation is the self-attention mechanism, which allows models to attend to all positions in the input simultaneously rather than processing step-by-step like RNNs or LSTMs60% 相似待验证Decision Transformer等Transformer架构的引入为处理超长时序依赖提供了新工具59% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1042451API
curl https://kongchang.com/api/v1/knowledge/claims/1042451MCP
get_claim(id=1042451)