待验证50% 置信事实精确时间
Looped Transformer让同一组层被反复循环调用,从而在两次文本输出之间插入远多于常规前向传播的串行计算步骤。
1
来源数
50%
置信度
长期有效
时效性
2026/10/12
首次发现
来源
涉及实体
相关事实
已验证循环Transformer通过重复使用相同的权重矩阵,可以在不大幅增加参数量的情况下实现更深层次的信息处理78% 相似待验证Recurrent Looped Transformer提出让模型的部分层结构以循环方式反复调用,在不增加参数量的前提下提供可变的思考深度75% 相似待验证Transformer架构的自回归生成机制导致输入Token只需一次前向传播编码并以KV Cache存储复用,而输出Token每一步生成都需完整前向传播,推理成本随输出长度线性增长75% 相似待验证Transformer的自注意力机制能够捕捉代码序列中任意两点之间的长程逻辑依赖72% 相似待验证在Transformer中残差流的写入操作是线性叠加(加法),使不同模块的贡献保持可分离性,是机制可解释性追踪信息来源的数学基础71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1012085API
curl https://kongchang.com/api/v1/knowledge/claims/1012085MCP
get_claim(id=1012085)