待验证50% 置信事实精确时间

压缩KV缓存的技术会直接转化为更长的上下文窗口和更低的单位推理成本

1

来源数

50%

置信度

长期有效

时效性

2026/9/13

首次发现

来源

DeepSeek新压缩技术直击痛点：推理成本战如何撼动OpenAI

涉及实体

KV缓存concept

相关事实

待验证GQA和MLA等技术可显著压缩KV缓存大小，DeepSeek V3采用了MLA来降低长上下文场景的内存开销78% 相似已验证MLA将KV对压缩到低维潜在空间中进行缓存，推理时通过上投影矩阵恢复完整的Key和Value，将KV缓存压缩了数倍76% 相似待验证在超长上下文下将承担 KV cache 开销的层数压缩到总层数四分之一，可大幅降低长上下文推理的显存成本，是长上下文模型架构演进的重要方向74% 相似待验证DA作用于计算逻辑层，与量化和驱逐等作用于存储传输层的KV缓存压缩技术优化维度正交互补，可叠加使用74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/918966

API

curl https://kongchang.com/api/v1/knowledge/claims/918966

MCP

get_claim(id=918966)