待验证50% 置信事实精确时间

Token 生成速度分为 prefill（计算密集型）和 decode（内存带宽密集型）两个阶段。

1

来源数

50%

置信度

长期有效

时效性

2026/10/17

首次发现

来源

哪款 Mac 跑哪个 LLM 最快？实测数据告诉你

rss2026/10/17

涉及实体

Token 生成速度concept

相关事实

待验证内存带宽决定生成速度，因为自回归解码是逐 token 搬运全部权重，带宽越高每秒生成的 token 越多。78% 相似待验证Prefill（预填充/Prompt处理）阶段属于计算密集型，依赖GPU的矩阵并行计算能力；Decode（解码/生成）阶段属于内存带宽密集型，更多取决于显存带宽77% 相似待验证预填充是计算密集型操作，计算量随序列长度呈平方级增长；解码是内存带宽密集型操作，可复用KV Cache75% 相似待验证Long Decode 允许输出最长 1M token，是目前前沿模型中输出窗口最大的实现之一。73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1053009

API

curl https://kongchang.com/api/v1/knowledge/claims/1053009

MCP

get_claim(id=1053009)