待验证50% 置信事实精确时间

推理过程中每个token需要维护KV缓存（Key-Value cache），其显存占用与序列长度和模型层数成正比

1

来源数

50%

置信度

长期有效

时效性

2026/9/3

首次发现

来源

Perplexity文件处理能力退化：Pro用户实测问题全解析

涉及实体

KV cacheconcept

相关事实

已验证推理模型的自回归生成过程严格串行，KV Cache显存占用随思考Token序列线性增长，内存带宽成为性能瓶颈76% 相似待验证自回归模型使用KV Cache缓存历史token的Key和Value矩阵，显存占用随序列长度线性增长75% 相似已验证KV Cache通过避免对已生成token的Key和Value进行重复计算来加速推理72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/849948

API

curl https://kongchang.com/api/v1/knowledge/claims/849948

MCP

get_claim(id=849948)