已验证65% 置信事实精确时间
循环Transformer通过重复使用相同的权重矩阵，可以在不大幅增加参数量的情况下实现更深层次的信息处理
3
来源数
65%
置信度
长期有效
时效性
2026/9/11
首次发现
来源
涉及实体
相关事实
待验证Recurrent Looped Transformer提出让模型的部分层结构以循环方式反复调用，在不增加参数量的前提下提供可变的思考深度80% 相似待验证在Transformer中残差流的写入操作是线性叠加（加法），使不同模块的贡献保持可分离性，是机制可解释性追踪信息来源的数学基础77% 相似已验证Transformer架构以多头自注意力机制完全取代循环结构，消除顺序计算瓶颈并解决长距离依赖问题76% 相似待验证Transformer 架构中自注意力层会为每个 Token 生成对应的 Key 和 Value 向量并缓存在 GPU 显存中，即 KV Cache 机制，上下文越长占用显存越大，推理成本呈近线性增长76% 相似待验证Transformer 由矩阵乘法、归一化、注意力等结构高度规整的操作组成，其数学性质明确，因此是形式化验证相对友好的起点75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/904639API
curl https://kongchang.com/api/v1/knowledge/claims/904639MCP
get_claim(id=904639)