待验证60% 置信事实精确时间
当前主流大语言模型普遍采用Transformer架构，其自注意力机制在处理长上下文时计算复杂度与序列长度呈二次方增长（O(n²)）
2
来源数
60%
置信度
长期有效
时效性
2026/7/17
首次发现
来源
相关事实
已验证大语言模型的记忆本质上依赖于Transformer架构的注意力机制，其有效信息容量受限于上下文窗口的token数量78% 相似已验证基于Transformer的大语言模型使用注意力机制将系统提示、用户输入和外部检索内容统一编码为同质化的token序列，模型无法在语义层面区分可信指令与不可信数据77% 相似待验证Transformer通过自注意力机制实现了对长文本的高效建模76% 相似已验证注意力机制（Attention Mechanism）是Transformer架构的核心组件，也是当前所有主流大语言模型的基础76% 相似已验证大语言模型基于Transformer架构，通过海量文本数据训练而成76% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/547349API
curl https://kongchang.com/api/v1/knowledge/claims/547349MCP
get_claim(id=547349)