待验证50% 置信事实精确时间
按IIT标准，前馈神经网络（包括标准Transformer推理过程）由于信息主要沿单一方向流动、缺乏循环因果交互，其Φ值可能很低
1
来源数
50%
置信度
长期有效
时效性
2026/9/2
首次发现
来源
涉及实体
相关事实
待验证在神经网络推理中Softmax、LayerNorm等对数值范围敏感的操作极易因FP16有限的指数位引发上溢或下溢，误差在Transformer多层堆叠中累积放大71% 相似待验证Transformer模型中首尾几层对量化更敏感，中间层冗余度更高，注意力层和前馈网络层对量化的容忍度不同71% 相似待验证Transformer 中任意两个位置之间的信息传递路径长度恒为1，从根本上克服了 RNN 在长序列上因梯度消失导致的遗忘问题70% 相似待验证RNN（循环神经网络）的核心缺陷在于其串行计算特性，必须按时间步逐一处理序列，导致长距离依赖关系随序列长度指数级衰减70% 相似待验证标准Transformer在处理需要精确计数、栈操作或复杂状态依赖的任务时表现不稳定，与其注意力机制的软寻址特性有关69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/842661API
curl https://kongchang.com/api/v1/knowledge/claims/842661MCP
get_claim(id=842661)