待验证50% 置信事实精确时间
循环Transformer中,层共享权重,因此模型的总参数量不随循环次数增加。
1
来源数
50%
置信度
长期有效
时效性
2026/11/2
首次发现
来源
涉及实体
相关事实
待验证在Transformer架构中,每生成一个token的计算量与激活参数量近似成正比,稠密模型激活参数量等于总参数量,MoE模型激活参数量远小于总参数量76% 相似待验证在Transformer架构中,对于拥有N个参数的模型,生成每个token大约需要2N次浮点运算74% 相似待验证Transformer架构中模型参数量与推理延迟之间呈近似线性关系72% 相似待验证在Transformer自回归推理模式下,输出Token数量与计算开销之间存在超线性关系72% 相似待验证循环架构的思想可追溯到 Universal Transformer 与 Deep Equilibrium Models,通过增加计算深度而不增加参数数量来提升推理能力。71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1125021API
curl https://kongchang.com/api/v1/knowledge/claims/1125021MCP
get_claim(id=1125021)