待验证50% 置信事实精确时间
2019年Dehghani等人提出的Universal Transformer首次将Transformer层设计为可重复执行的循环单元，并引入自适应计算时间机制动态决定循环次数
1
来源数
50%
置信度
长期有效
时效性
2026/9/4
首次发现
来源
涉及实体
相关事实
待验证Switch Transformer和Mixtral系列广泛采用了MoE架构70% 相似待验证NVIDIA随H100推出Transformer Engine，为每个张量维护历史激活值最大绝对值统计并动态调整缩放因子68% 相似待验证深度递归指对单一输入快照的同一状态执行多轮迭代计算，Universal Transformer、DEQ等架构是代表68% 相似待验证The Transformer architecture uses a Self-Attention mechanism to achieve efficient parallel processing of sequential data, replacing RNN/LSTM architectures.67% 相似已验证FLUX采用了DiT（Diffusion Transformer）架构，用纯Transformer替代了传统的U-Net结构67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/852181API
curl https://kongchang.com/api/v1/knowledge/claims/852181MCP
get_claim(id=852181)