待验证50% 置信事实精确时间
DeepInfer将推理拆分为prefill和decode两个阶段,并采用分离式部署:prefill使用8卡机器,decode使用64到128张卡的超节点,两者卡数需求大致1比1。
1
来源数
50%
置信度
长期有效
时效性
2026/10/21
首次发现
来源
涉及实体
相关事实
待验证DeepSeek 将 pre-fill 和 decode 两个阶段分离到不同的机器上:pre-fill 跑在常规八卡 GPU 机器上,decode 跑在数百块 GPU 组成的超级节点上。80% 相似待验证DeepSeek采用PD分离架构,将Pre-fill阶段和Decode阶段部署到不同机器上,读题用8卡服务器,写答案用64到128卡超节点。75% 相似待验证DeepSeek 介绍的生产方案将视觉编码、prefill 和 decode 拆开部署,各自安排机器,以针对不同资源瓶颈独立扩缩容。72% 相似待验证DeepSeek新模型采用编码器-解码器混合架构,将40层网络从中间切开,底部20层为编码器,顶部20层为解码器71% 相似已验证DeepSeek V4.1 Flash 采用 Causal Encoder-Decoder 非对称架构,总参数量为 552B64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1082309API
curl https://kongchang.com/api/v1/knowledge/claims/1082309MCP
get_claim(id=1082309)