待验证50% 置信事实精确时间
在小型循环Transformer中,每一轮循环重新选择专家会带来可观测的性能差异。
1
来源数
50%
置信度
长期有效
时效性
2026/11/13
首次发现
来源
涉及实体
相关事实
待验证后端切换带来的性能偏移主要来自算子选择与内核调度的变化,旧的专用实现可能针对特定模型结构手写了融合算子,而 Transformers 后端走通用路径。77% 相似待验证全栈循环Transformer将上下文构建与迭代状态细化置于同一循环计算中,未明确区分二者角色。76% 相似待验证Switch Transformer将每个Token的专家选择简化为Top-1,并引入辅助损失函数防止Token涌向少数热门专家76% 相似待验证Decision Transformer等Transformer架构的引入为处理超长时序依赖提供了新工具73% 相似待验证Switch Transformer的原始论文中论述了引入辅助损失函数来强制均匀分配专家的设计73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1167455API
curl https://kongchang.com/api/v1/knowledge/claims/1167455MCP
get_claim(id=1167455)