[控场AI]
待验证50% 置信事实精确时间

处理一篇8000 token的长文档时，KV缓存可能额外占用数GB内存。

1
来源数
50%
置信度
长期有效
时效性
2026/10/13
首次发现

来源

本地AI选型指南：Gemma、Qwen还是Ministral？

涉及实体

上下文缓存concept

相关事实

待验证短期工作记忆即上下文窗口通常为8K至128K tokens，长期记忆通常以向量数据库形式存储79% 相似已验证当上下文长度扩展至百万Token时，KV Cache本身就会占用数十GB显存78% 相似待验证对于长上下文请求，KV cache 的数据量可达数 GB77% 相似待验证以8位精度存储KV缓存可节省内存并支撑更大的上下文窗口，作者日常使用13万到26万的上下文长度75% 相似待验证现代内存分配器的分配器簿记信息通常每次分配额外消耗8-16字节75% 相似

引用此条事实

Stable URI
https://kongchang.com/claim/1021548
API
curl https://kongchang.com/api/v1/knowledge/claims/1021548
MCP
get_claim(id=1021548)