待验证50% 置信事实精确时间

KV缓存随上下文长度增加，显存占用可达总显存的60%以上

1

来源数

50%

置信度

长期有效

时效性

2026/7/7

首次发现

来源

DeepSeek开源DiSpark：不换显卡让AI推理提速85%

bilibili枫叶边城2026/7/4

相关事实

待验证随着上下文长度增加，KV缓存的显存占用可达总显存的60%以上84% 相似待验证KV缓存将已计算的Key-Value矩阵存储在显存中实现增量计算，代价是显存占用随序列长度线性增长77% 相似待验证KV Cache内存共享机制在束搜索等场景下可节省高达55%的显存75% 相似已验证KV Cache的显存占用随序列长度线性增长，700亿参数采用GQA的模型处理10万Token时KV Cache占用可能高达数十GB74% 相似已验证KV Cache占用的显存随序列长度线性增长74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/207271

API

curl https://kongchang.com/api/v1/knowledge/claims/207271

MCP

get_claim(id=207271)