Verified65% confidenceFactTime unknown
大语言模型的推理过程本质上是内存带宽受限（memory-bandwidth bound）的任务，每生成一个Token都需要将模型的全部权重从存储中读取一遍
3
Sources
65%
Confidence
Long-term
Relevance
6/3/2026
First Seen
Sources
WhichLLM：一键检测你的电脑最适合跑哪个本地大模型
bilibili锋芒AI
Related Entities
Related Claims
Unverified大型语言模型的上下文本质上是模型在单次推理中能够处理的全部信息总量，通常以 Token 数量衡量79% similarUnverified语言模型生成 token 本质上是内存带宽受限任务而非纯算力受限79% similarVerified大语言模型推理分预填充和解码两阶段：预填充是计算密集型对GPU算力敏感，解码是内存带宽受限任务75% similarUnverified大语言模型生成文本是自回归（Autoregressive）的串行过程，每次只生成一个Token，导致输出阶段无法充分并行化，计算强度高于输入编码阶段73% similarUnverified大语言模型通过将训练语料压缩编码到权重矩阵中形成参数化记忆，是分布式而非精确存储，这是产生品牌信息幻觉的原因之一72% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/38144API
curl https://kongchang.com/api/v1/knowledge/claims/38144MCP
get_claim(id=38144)