待验证50% 置信基准精确时间

以7B参数模型为例，每增加1K Token 的上下文约消耗 0.5~1 GB 显存

1

来源数

50%

置信度

长期有效

时效性

2026/7/22

首次发现

来源

ChatGPT接入本地大模型：零成本无限Token完整教程

相关事实

待验证对于典型 7B 参数模型，每 1K token 的 KV Cache 约需 0.5–1GB 显存83% 相似已验证微调一个7B参数的模型可能需要数十GB显存进行全参数微调76% 相似待验证对于拥有32层、32头注意力的典型7B模型，每个token需约0.5MB显存存储KV Cache，生成1000个token则需额外约500MB显存76% 相似待验证对于70B参数的模型，8K上下文的KV Cache可能额外占用数GB显存76% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/592631

API

curl https://kongchang.com/api/v1/knowledge/claims/592631

MCP

get_claim(id=592631)