待验证70% 置信事实精确时间
PagedAttention 将 KV Cache 切分为固定大小的块，按需动态分配，不同请求的块可以非连续存放
2
来源数
70%
置信度
长期有效
时效性
2026/9/11
首次发现
来源
涉及实体
相关事实
待验证PagedAttention将KV Cache切分成固定大小的块，每个块通常存储16个token的键值对74% 相似已验证PagedAttention技术借鉴操作系统虚拟内存的分页思想，将KV Cache切分为固定大小的物理块动态分配71% 相似待验证KV Cache通过缓存已计算的Key和Value矩阵避免重复运算，PagedAttention等进阶技术进一步优化缓存内存管理效率71% 相似待验证上下文越长，模型需要缓存的 KV Cache 越大，KV Cache 使模型生成新 Token 时无需重新计算所有历史 Token 的注意力权重70% 相似待验证vLLM引入PagedAttention技术将KV Cache分割为固定大小物理块按需分配，而llama.cpp采用预分配策略在模型加载时一次性保留完整KV Cache空间69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/898573API
curl https://kongchang.com/api/v1/knowledge/claims/898573MCP
get_claim(id=898573)