待验证50% 置信事实精确时间

运行大模型除模型本身外还需预留1-2GB显存用于KV Cache（键值缓存）

1

来源数

50%

置信度

长期有效

时效性

2026/7/22

首次发现

来源

Ollama本地部署大模型：Windows完整安装教程

相关事实

待验证数千亿参数模型处理128K上下文窗口时，KV Cache可能占据数十GB显存73% 相似待验证在长上下文场景（如128K token窗口模型）中，KV Cache的显存占用可能超过模型权重本身73% 相似待验证对于70B参数的模型，8K上下文的KV Cache可能额外占用数GB显存72% 相似待验证对于拥有32层、32头注意力的典型7B模型，每个token需约0.5MB显存存储KV Cache，生成1000个token则需额外约500MB显存72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/590878

API

curl https://kongchang.com/api/v1/knowledge/claims/590878

MCP

get_claim(id=590878)