待验证50% 置信事实精确时间
MemFold固定使用K=256个连续向量，无论原始历史是32K还是128K token，模型的输入占用都不会增加
1
来源数
50%
置信度
长期有效
时效性
2026/10/12
首次发现
来源
涉及实体
相关事实
待验证200K token的上下文请求相比8K token请求，需要约25倍的KV-Cache显存70% 相似已验证以LLaMA-2 70B模型为例，2048 token的序列需约4GB显存仅用于KV缓存69% 相似待验证模型权重不能把显存占满，必须为 KV 缓存和推理过程预留空间，128K 上下文所需的 KV 缓存可能高达数 GB 甚至超过模型权重本身68% 相似待验证当上下文从4K token扩展到128K token时（32倍），理论计算量增长约1024倍66% 相似待验证对于 LLaMA-2 70B 模型，处理 4096 token 的上下文时，FP16 精度下 KV Cache 约需 20GB 系统内存65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1003152API
curl https://kongchang.com/api/v1/knowledge/claims/1003152MCP
get_claim(id=1003152)