已验证75% 置信事实精确时间
上下文越长，KV 缓存线性增长，显存带宽和容量成为推理吞吐的主要瓶颈。
3
来源数
75%
置信度
长期有效
时效性
2026/10/13
首次发现
来源
涉及实体
相关事实
待验证在视频生成场景下帧数增加使序列长度快速膨胀，KV cache 体积线性增长，极易超出片上 SRAM 容量而降级到带宽更低的 HBM，成为实时性瓶颈76% 相似已验证持久化KV缓存的代价是存储空间显著增加，以及如何在海量缓存中高效定位和加载相关片段的工程挑战76% 相似待验证存储瓶颈的典型信号包括数据库CPU利用率不高但查询延迟居高不下、iowait明显偏高、磁盘队列深度持续增长75% 相似待验证主机卸载用带宽换显存空间，代价是数据传输延迟；激活重计算用算力换显存，二者可互补配合75% 相似待验证随着上下文长度增加，KV Cache的内存占用会急剧膨胀，成为限制并发数的关键因素75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1020972API
curl https://kongchang.com/api/v1/knowledge/claims/1020972MCP
get_claim(id=1020972)