待验证50% 置信事实精确时间
硬盘缓存机制将已计算的KV Cache持久化到存储介质中，当后续请求前缀与缓存命中时可直接复用，跳过重复的前向传播
1
来源数
50%
置信度
长期有效
时效性
2026/8/28
首次发现
来源
涉及实体
相关事实
待验证持久化队列将消息写入磁盘或分布式存储，确保系统重启也不会丢失排队请求，而内存队列在进程崩溃时会丢失数据80% 相似待验证该应用使用ChromaDB的PersistentClient将向量数据写入磁盘而非内存，实现持久化存储77% 相似待验证在vLLM中，每个内存页通常存储固定数量Token的KV向量（例如16个），允许不同请求的KV Cache非连续地存储在物理内存中72% 相似待验证在容器化部署中应将缓存目录挂载为持久化卷，否则每次容器重启都会触发全量重新下载71% 相似待验证Prompt缓存（KV Cache）在相同系统提示多次使用时可复用缓存的KV矩阵，通常将延迟降低40-60%、成本降低50-90%71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/810453API
curl https://kongchang.com/api/v1/knowledge/claims/810453MCP
get_claim(id=810453)