待验证50% 置信事实精确时间

分离式推理将计算密集的预填充阶段与内存带宽密集的解码阶段解耦，分配到各自最适合的硬件资源池独立扩缩容

1

来源数

50%

置信度

长期有效

时效性

2026/10/11

首次发现

来源

AMD MoRI + vLLM：面向MoE的宽专家并行与RDMA KV缓存传输

涉及实体

Disaggregated Servingconcept Prefillconcept Decodeconcept

相关事实

待验证分层缓存+量化压缩+计算重叠是在消费级硬件上部署超大MoE模型的通用优化思路78% 相似待验证预填充是计算密集型操作，计算量随序列长度呈平方级增长；解码是内存带宽密集型操作，可复用KV Cache78% 相似待验证存算分离架构通过将存储层与计算层解耦，实现计算资源的秒级弹性伸缩，存储可独立扩展而无需迁移数据78% 相似待验证DA作用于计算逻辑层，与量化和驱逐等作用于存储传输层的KV缓存压缩技术优化维度正交互补，可叠加使用74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/995754

API

curl https://kongchang.com/api/v1/knowledge/claims/995754

MCP

get_claim(id=995754)