待验证50% 置信事实精确时间

num_ctx 参数直接影响内存占用，KV缓存需要为每个上下文token存储注意力计算的中间状态

1

来源数

50%

置信度

长期有效

时效性

2026/7/12

首次发现

来源

Mac本地AI编程代理实战：Ollama+OpenCode+MCP完整搭建指南

redditr/ollama2026/7/11

相关事实

待验证记忆在LLM系统中会在显式存储层、摘要层、上下文缓存层和间接推理层等多个层面留下痕迹，形成记忆残影71% 相似已验证多头潜在注意力机制（MLA）通过将KV投影到低维潜在空间压缩存储，将KV Cache显存占用降低至传统方法的5%至13%67% 相似待验证传统KV缓存实现预先分配最大长度连续显存块，导致平均60%-80%的预分配内存被浪费65% 相似待验证NumPy默认采用行优先（C-order）内存存储65% 相似待验证在vLLM中，每个内存页通常存储固定数量Token的KV向量（例如16个），允许不同请求的KV Cache非连续地存储在物理内存中65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/490101

API

curl https://kongchang.com/api/v1/knowledge/claims/490101

MCP

get_claim(id=490101)