已验证75% 置信事实精确时间
自注意力机制（Self-Attention）由Vaswani等人在2017年的论文《Attention Is All You Need》中提出，其计算复杂度为O(n²)
3
来源数
75%
置信度
长期有效
时效性
2026/7/24
首次发现
来源
相关事实
已验证Transformer由Vaswani等人于2017年在论文《Attention Is All You Need》中提出，其自注意力机制计算复杂度与序列长度呈O(n²)关系83% 相似待验证2017 年论文《Attention is all you need》的贡献在于证明可以彻底去掉 RNN，仅靠 Attention 就能完成语言建模，而非首次提出 Attention75% 相似已验证标准自注意力机制（Self-Attention）的计算复杂度与序列长度呈平方关系（O(n²)）73% 相似待验证2017 年 Vaswani 等人发表的《Attention Is All You Need》完全摒弃了 RNN 和 CNN，仅依赖自注意力机制构建序列到序列模型71% 相似待验证标准注意力机制具有O(n²)的显存开销，行数2000时需计算约2000×2000的注意力矩阵69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/604927API
curl https://kongchang.com/api/v1/knowledge/claims/604927MCP
get_claim(id=604927)