[控场AI]
待验证50% 置信事实精确时间

长上下文或多轮对话场景下，KV cache 会占用大量显存，速度可能断崖式下降。

1
来源数
50%
置信度
长期有效
时效性
2026/10/14
首次发现

来源

深扒 deepseek-harness：开源AI脚手架的真实价值与隐忧

涉及实体

KV cacheconcept

相关事实

待验证上下文长度越长，KV Cache 占用越大，推理速度通常会下降76% 相似待验证推理过程中动态增长的KV Cache会持续占用显存，长对话时可能突然触发OOM崩溃76% 相似待验证上下文越长模型对话越连贯，但也会消耗更多 Token 并可能触及模型最大输入长度限制69% 相似待验证上下文越长，KV Cache 占用的显存成比例增加，手动调大上下文长度需确保剩余显存充足，否则可能出现显存溢出(OOM)导致崩溃69% 相似待验证长文档处理中，KV Cache机制导致显存占用随上下文长度近似平方级增长68% 相似

引用此条事实

Stable URI
https://kongchang.com/claim/1022712
API
curl https://kongchang.com/api/v1/knowledge/claims/1022712
MCP
get_claim(id=1022712)