待验证50% 置信事实精确时间
预填充(Prefill)是大语言模型推理的两个阶段之一,另一阶段为解码(Decode);预填充阶段并行处理全部提示词并计算 KV Cache。
1
来源数
50%
置信度
长期有效
时效性
2026/11/9
首次发现
来源
涉及实体
相关事实
已验证Prefill阶段是计算密集型操作,Decode阶段是显存带宽密集型操作80% 相似待验证Prefill阶段对整段输入做一次前向计算,产生所有位置的KV缓存,属于计算密集型(compute-bound);Decode阶段逐Token自回归生成,属于内存带宽密集型(memory-bound)。77% 相似待验证预填充是大语言模型推理的第一阶段,模型把用户输入的整段提示词一次性读入,为每个token计算键值向量并存入显存。76% 相似待验证大语言模型的推理过程分为预填充(Prefill)和解码(Decode)两个阶段,注意力机制的计算复杂度为O(n²)75% 相似待验证预填充(prefilling)是指在使用大语言模型 API 时,由调用方预先提供一段文本(或 token 序列),让模型在此基础上继续生成,而非从空上下文开始。75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1152737API
curl https://kongchang.com/api/v1/knowledge/claims/1152737MCP
get_claim(id=1152737)