待验证50% 置信事实精确时间

卸载的只是KV缓存里的冷部分，权重、索引和GDN状态仍常驻显卡，完整历史保存在主机内存中并按需搬回

1

来源数

50%

置信度

长期有效

时效性

2026/9/15

首次发现

来源

双卡RTX4090跑通Qwen3-Next：8并发满血长上下文实测

涉及实体

相关事实

待验证硬盘缓存机制将已计算的KV Cache持久化到存储介质中，当后续请求前缀与缓存命中时可直接复用，跳过重复的前向传播69% 相似待验证SGLang引入权重缓存守护进程，为每张GPU保留权重，使重启引擎从缓存而非存储恢复以缩短故障恢复时间68% 相似待验证持久化队列将消息写入磁盘或分布式存储，确保系统重启也不会丢失排队请求，而内存队列在进程崩溃时会丢失数据67% 相似已验证GPU存储层次从快到慢为：寄存器、L1缓存/共享内存、L2缓存、全局显存66% 相似待验证传统KV缓存实现预先分配最大长度连续显存块，导致平均60%-80%的预分配内存被浪费65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/923187

API

curl https://kongchang.com/api/v1/knowledge/claims/923187

MCP

get_claim(id=923187)