待验证50% 置信事实精确时间
Ouro模型在每次循环中保留独立的KV缓存,导致缓存大小随循环次数线性增长。
1
来源数
50%
置信度
长期有效
时效性
2026/11/4
首次发现
来源
涉及实体
相关事实
已验证KV cache 的显存占用随上下文长度线性增长,且每个并发请求、每条序列都维护一份独立缓存。72% 相似待验证超长上下文带来的KV缓存会随上下文长度线性增长,Unsloth优化卸载规划器优先保证KV缓存留在GPU上68% 相似待验证在自回归推理中,KV cache的显存占用随序列长度线性增长,长上下文时可能与权重体积相当或更高67% 相似待验证KV缓存会随序列长度不断膨胀,换来强大的长程检索能力,代价是记忆无法被消化为模型的一部分67% 相似待验证KV可共享性(KV-shareability)是指在某些训练好的循环模型中,最后一次循环的KV缓存可以直接给前几次循环复用而质量几乎不受影响。65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1134011API
curl https://kongchang.com/api/v1/knowledge/claims/1134011MCP
get_claim(id=1134011)