待验证50% 置信事实精确时间
将预填充（Prefill）与解码（Decode）分离到不同资源运行是当前大规模推理服务优化资源利用率的主流架构
1
来源数
50%
置信度
长期有效
时效性
2026/9/12
首次发现
来源
涉及实体
相关事实
待验证预填充（Prefill）阶段是计算密集型任务，对算力要求高；解码（Decode）阶段是访存密集型任务，对显存带宽敏感74% 相似待验证增加 batch size 可以显著改善 decode 阶段效率，因为多个请求共享同一次权重读取70% 相似待验证智能体文档工具本质是用token成本换取推理效率，通过预先压缩代码库信息节省后续每次任务的上下文开销70% 相似待验证阶段分离（Disaggregation）技术将预填充（prefill）和解码（decode）两个阶段拆分到不同硬件上处理68% 相似待验证当前主流大模型普遍采用纯Decoder架构，因其预训练目标与生成式对话任务高度契合且规模扩展效果更显著67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/912418API
curl https://kongchang.com/api/v1/knowledge/claims/912418MCP
get_claim(id=912418)