待验证50% 置信权衡取舍精确时间

Chunked prefill通过将prefill切片与decode交错执行来缓解阻塞，但prefill与decode仍共享同一HBM带宽和SM，无法根本消除资源竞争

1

来源数

50%

置信度

长期有效

时效性

2026/10/19

首次发现

来源

一台变两台：LLM推理拆分解耦，吞吐提升75%的工程逻辑

涉及实体

Chunked prefillconcept PD分离concept

相关事实

待验证NIXL是SGLang用于Prefill-Decode分离部署的关键通信组件，负责在Prefill节点和Decode节点之间传输KV Cache状态62% 相似待验证签名压缩块在压缩基础上增加密码学或结构化签名，使压缩内容可被验证为未遭篡改，区别于会永久丢失信息的滚动截断策略59% 相似待验证多个核心同时修改同一缓存行内的不同独立变量会因缓存一致性协议导致缓存行反复失效和传输，这称为伪共享59% 相似待验证TPS的解码（Decode）阶段是用户实际感知到的响应速度，硬件内存带宽往往是解码阶段的真正瓶颈而非纯粹浮点算力59% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1070126

API

curl https://kongchang.com/api/v1/knowledge/claims/1070126

MCP

get_claim(id=1070126)