已验证85% 置信基准精确时间
PagedAttention将KV Cache的内存利用率从不足40%提升至接近100%
5
来源数
85%
置信度
长期有效
时效性
2026/7/11
首次发现
来源
vLLM推理框架详解：吞吐优化核心原理与面试攻略
bilibiliAI大模型升升2026/6/9
相关事实
待验证PagedAttention 把 KV Cache 切成固定大小的块，按需分配、非连续存放，使显存利用率从传统的 20%～40% 提升到 90% 以上。78% 相似待验证PagedAttention 使显存利用率提升至接近 100%，实现同等硬件下并发吞吐量提升 2-4 倍75% 相似已验证PagedAttention将KV Cache拆分为固定大小的物理块通过块表映射，GPU利用率可从低于40%提升至90%以上74% 相似待验证传统LLM推理中KV Cache的内存管理导致60%-80%的显存被浪费73% 相似待验证传统LLM推理中，KV Cache的内存管理导致60%-80%的GPU显存被浪费73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/488194API
curl https://kongchang.com/api/v1/knowledge/claims/488194MCP
get_claim(id=488194)