待验证60% 置信事实精确时间
大语言模型的推理过程分为预填充（Prefill）和解码（Decode）两个阶段，注意力机制的计算复杂度为O(n²)
2
来源数
60%
置信度
长期有效
时效性
2026/8/24
首次发现
来源
涉及实体
相关事实
已验证大语言模型推理分预填充和解码两阶段：预填充是计算密集型对GPU算力敏感，解码是内存带宽受限任务77% 相似待验证全局自注意力的建模复杂度为O(n²)，后续研究发展出RoPE、ALiBi等相对位置编码方案增强长文本处理能力76% 相似待验证当前主流大语言模型普遍采用Transformer架构，其自注意力机制在处理长上下文时计算复杂度与序列长度呈二次方增长（O(n²)）75% 相似待验证通义灵码底层依托通义千问系列大语言模型的代码理解与生成能力70% 相似待验证原始word2vec需要在整个词汇表上计算softmax归一化，计算复杂度为O(V)，负采样将问题转化为二分类以降低计算量70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/796904API
curl https://kongchang.com/api/v1/knowledge/claims/796904MCP
get_claim(id=796904)