待验证50% 置信事实精确时间

KV缓存越大，显存压力越大，服务成本越高

1

来源数

50%

置信度

长期有效

时效性

2026/9/13

首次发现

来源

DeepSeek新压缩技术直击痛点：推理成本战如何撼动OpenAI

涉及实体

KV缓存concept

相关事实

待验证KV缓存的大小随上下文长度线性增长，处理更长文本时显存消耗会显著增加75% 相似已验证KV缓存将已计算的Key-Value矩阵存储在显存中实现增量计算，代价是显存占用随序列长度线性增长70% 相似待验证KV缓存随上下文长度增加，显存占用可达总显存的60%以上69% 相似待验证在超长上下文下将承担 KV cache 开销的层数压缩到总层数四分之一，可大幅降低长上下文推理的显存成本，是长上下文模型架构演进的重要方向68% 相似待验证上下文越长，需要存储和检索的KV Cache越大，GPU显存消耗呈线性增长67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/918965

API

curl https://kongchang.com/api/v1/knowledge/claims/918965

MCP

get_claim(id=918965)