待验证50% 置信事实精确时间
prefill阶段负责处理输入prompt，一次性完成所有输入token的KV缓存计算；decode阶段逐个生成新token。
1
来源数
50%
置信度
长期有效
时效性
2026/10/14
首次发现
来源
涉及实体
相关事实
待验证Prefill 阶段需要一次性处理全部输入 token，属于计算密集型操作；Decode 阶段每步仅生成一个 token，属于内存带宽密集型操作78% 相似待验证Prefill 阶段处理完整输入上下文，为所有输入 token 计算注意力并生成 KV 缓存，属于计算密集型操作，耗时与输入长度强相关。78% 相似已验证预填充（Prefill）阶段是计算密集型任务，对算力要求高；解码（Decode）阶段是访存密集型任务，对显存带宽敏感74% 相似待验证主流推理服务器通常采用连续批处理（continuous batching）和分块 prefill（chunked prefill）等技术，在请求之间动态拼批，把 prefill 与 decode 交错执行以提升 GPU 利用率。71% 相似待验证由于自回归特性，每个decode step都需要访问之前所有token的KV Cache71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1029494API
curl https://kongchang.com/api/v1/knowledge/claims/1029494MCP
get_claim(id=1029494)