待验证50% 置信事实精确时间
prefill 是对输入序列的并行处理,属于计算密集型(compute-bound)任务
1
来源数
50%
置信度
长期有效
时效性
2026/10/4
首次发现
来源
涉及实体
相关事实
待验证Prefill阶段是大语言模型推理的第一步,模型对输入的所有token并行进行完整的前向计算,生成每一层的KV Cache75% 相似待验证预填充阶段是计算密集型(compute-bound),需一次性处理全部输入token并生成KV Cache,注意力矩阵计算复杂度为O(n²)70% 相似待验证确定性工作流是一系列预先定义、按固定逻辑执行的步骤,输入相同则输出相同70% 相似待验证LLM推理的Prefill阶段是计算密集型操作,主要瓶颈是GPU/NPU算力(FLOPS)67% 相似待验证LLM推理的prefill阶段并行处理输入所有token并生成初始KV Cache,是计算密集型操作,是TTFT的直接决定因素67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/972282API
curl https://kongchang.com/api/v1/knowledge/claims/972282MCP
get_claim(id=972282)