已验证75% 置信事实精确时间
预填充(Prefill)阶段是计算密集型任务,对算力要求高;解码(Decode)阶段是访存密集型任务,对显存带宽敏感
3
来源数
75%
置信度
长期有效
时效性
2026/9/11
首次发现
来源
涉及实体
相关事实
待验证Prefill 阶段需要一次性处理全部输入 token,属于计算密集型操作;Decode 阶段每步仅生成一个 token,属于内存带宽密集型操作75% 相似待验证将预填充(Prefill)与解码(Decode)分离到不同资源运行是当前大规模推理服务优化资源利用率的主流架构74% 相似待验证阶段分离(Disaggregation)技术将预填充(prefill)和解码(decode)两个阶段拆分到不同硬件上处理69% 相似待验证TTFT由Prefill阶段决定受算力约束,TPOT对应Decode阶段受内存带宽约束67% 相似待验证Prefix Cache 优化是指当多轮对话中系统提示词保持不变时,API 服务端可缓存该前缀的 KV 计算结果供后续请求复用,减少重复计算、降低延迟和 Token 成本66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/898666API
curl https://kongchang.com/api/v1/knowledge/claims/898666MCP
get_claim(id=898666)