已验证65% 置信事实时间未知
大语言模型的推理过程本质上是内存带宽受限（memory-bandwidth bound）的任务，每生成一个Token都需要将模型的全部权重从存储中读取一遍
3
来源数
65%
置信度
长期有效
时效性
2026/6/3
首次发现
来源
WhichLLM：一键检测你的电脑最适合跑哪个本地大模型
bilibili锋芒AI
涉及实体
相关事实
待验证大型语言模型的上下文本质上是模型在单次推理中能够处理的全部信息总量，通常以 Token 数量衡量79% 相似待验证语言模型生成 token 本质上是内存带宽受限任务而非纯算力受限79% 相似已验证大语言模型推理分预填充和解码两阶段：预填充是计算密集型对GPU算力敏感，解码是内存带宽受限任务75% 相似待验证大语言模型生成文本是自回归（Autoregressive）的串行过程，每次只生成一个Token，导致输出阶段无法充分并行化，计算强度高于输入编码阶段73% 相似待验证大语言模型通过将训练语料压缩编码到权重矩阵中形成参数化记忆，是分布式而非精确存储，这是产生品牌信息幻觉的原因之一72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/38144API
curl https://kongchang.com/api/v1/knowledge/claims/38144MCP
get_claim(id=38144)