待验证50% 置信事实精确时间
静态词向量时代各向异性问题已存在且GloVe词向量尤为严重，进入Transformer时代因上下文建模有所缓解但未消失
1
来源数
50%
置信度
长期有效
时效性
2026/10/11
首次发现
来源
涉及实体
相关事实
待验证循环 Transformer 并非全新概念，学术界已有多篇论文探讨其理论基础67% 相似待验证Bengio 在序列建模与词向量表示上贡献突出，其研究直接影响了后来的 Transformer 架构65% 相似待验证线性注意力的数学基础源于2020年 Katharopoulos 等人发表于ICML的《Transformers are RNNs》，将时间复杂度从 O(N²) 降至 O(N)61% 相似待验证托马斯·库恩在《科学革命的结构》中指出，只有当异常积累到范式无法容纳的程度，才会触发危机并导致革命性的范式转换60% 相似待验证可逆计算并非全新概念，其理论基础早在数十年前就已奠定60% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/998019API
curl https://kongchang.com/api/v1/knowledge/claims/998019MCP
get_claim(id=998019)