待验证50% 置信权衡取舍精确时间
PD分离会破坏数据局部性,预填充节点生成的KV缓存需通过网络传输给解码节点,随输入序列变长带宽消耗和延迟上升
1
来源数
50%
置信度
长期有效
时效性
2026/9/24
首次发现
来源
涉及实体
相关事实
待验证寄存器溢出(Register Spilling)会将溢出变量存入本地显存,引入额外全局显存访问导致性能倒退68% 相似待验证长上下文推理的核心瓶颈之一是内存带宽,因为KV Cache随上下文长度线性膨胀并需实时从内存读取67% 相似待验证DEFAULT 分区一旦有大量数据涌入会迅速膨胀为无分区优化保护的巨型表,将数据迁回正确分区需要大量数据写入和表锁争用63% 相似待验证如果没有配置自动扩展机制,当时间推移到最后一个已创建分区之后,新写入数据会导致数据库报错拒绝写入或全部涌入默认分区造成性能雪崩62% 相似待验证数据在服务器端进行推理时必然处于明文状态,GPU显存中的激活值、KV缓存以及批处理队列中的请求数据都可能成为侧信道攻击目标61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/945825API
curl https://kongchang.com/api/v1/knowledge/claims/945825MCP
get_claim(id=945825)