待验证50% 置信事实精确时间
Transformer缺乏CNN天然具备的局部性、平移不变性等归纳偏置，因此DETR必须完全依靠数据学习空间关系，导致对数据量需求极大
1
来源数
50%
置信度
长期有效
时效性
2026/8/13
首次发现
来源
相关事实
待验证Transformer模型存在位置偏差，对中间位置信息的检索能力尤其薄弱，即lost in the middle问题75% 相似已验证Transformer克服了RNN/LSTM架构因顺序计算导致的长距离依赖衰减问题，同时天然支持并行计算74% 相似待验证Transformer 中任意两个位置之间的信息传递路径长度恒为1，从根本上克服了 RNN 在长序列上因梯度消失导致的遗忘问题71% 相似待验证Transformer模型中首尾几层对量化更敏感，中间层冗余度更高，注意力层和前馈网络层对量化的容忍度不同69% 相似待验证标准Transformer的单次前向传播等价于固定深度的计算图，其表达能力受限于TC^0复杂度类，但通过多步推理可接近图灵完备的计算能力68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/740651API
curl https://kongchang.com/api/v1/knowledge/claims/740651MCP
get_claim(id=740651)