待验证50% 置信事实精确时间
滑动窗口注意力的KV Cache大小恒定，实现O(1)的显存占用而非O(n)
1
来源数
50%
置信度
长期有效
时效性
2026/8/31
首次发现
来源
涉及实体
相关事实
待验证液态卷积的计算复杂度与序列长度呈线性关系O(n)，而非自注意力的平方关系O(n²)，处理128K Tokens时计算量仅为注意力层的约1/100068% 相似待验证Sliding Window Attention、RoPE位置编码扩展等技术将上下文窗口从早期的2K Token扩展至128K乃至百万Token级别61% 相似待验证现代大模型上下文窗口已从早期4K Token扩展到128K甚至更长，注意力机制计算量随上下文长度呈平方级增长60% 相似待验证上下文越长，模型需要缓存的 KV Cache 越大，KV Cache 使模型生成新 Token 时无需重新计算所有历史 Token 的注意力权重59% 相似待验证vLLM通过PagedAttention技术将KV Cache的内存碎片率从60%以上压缩至接近零，在高并发场景下可将推理吞吐量提升数倍59% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/827470API
curl https://kongchang.com/api/v1/knowledge/claims/827470MCP
get_claim(id=827470)