待验证50% 置信事实精确时间

预填充是计算密集型操作，计算量随序列长度呈平方级增长；解码是内存带宽密集型操作，可复用KV Cache

1

来源数

50%

置信度

长期有效

时效性

2026/9/16

首次发现

来源

8卡2080Ti 22G本地部署GLM-5.3-Flash实测：TP2 PP4并行方案解析

涉及实体

Prefillingconcept Decodingconcept KV Cacheconcept

相关事实

待验证预填充阶段属于计算密集型操作主要受 GPU 算力限制，解码阶段属于内存带宽密集型操作主要受显存带宽限制76% 相似待验证DA作用于计算逻辑层，与量化和驱逐等作用于存储传输层的KV缓存压缩技术优化维度正交互补，可叠加使用73% 相似待验证大语言模型的自回归生成过程需要频繁读取KV Cache（键值缓存），对内存带宽和容量提出极高要求72% 相似已验证KV Cache 通过在 GPU 显存中缓存已计算的 Key-Value 对，将自注意力计算复杂度从 O(N²) 降至 O(N)，但显存占用随序列长度线性增长72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/924384

API

curl https://kongchang.com/api/v1/knowledge/claims/924384

MCP

get_claim(id=924384)