已验证65% 置信事实精确时间

KV缓存的大小随上下文长度线性增长，处理更长文本时显存消耗会显著增加

3

来源数

65%

置信度

长期有效

时效性

2026/8/26

首次发现

来源

用废旧硬件在家搭建本地AI推理平台完整指南

涉及实体

KV缓存concept

相关事实

已验证KV缓存将已计算的Key-Value矩阵存储在显存中实现增量计算，代价是显存占用随序列长度线性增长80% 相似待验证KV缓存随上下文长度增加，显存占用可达总显存的60%以上77% 相似待验证生成吞吐（tok/s）反映解码阶段效率，受 KV Cache 大小和显存带宽影响，对输入长度的敏感程度远低于预填充77% 相似已验证KV Cache占用的显存随序列长度线性增长77% 相似待验证KV缓存存储Transformer注意力计算中的键值对，随序列长度线性增长76% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/802146

API

curl https://kongchang.com/api/v1/knowledge/claims/802146

MCP

get_claim(id=802146)