待验证50% 置信基准精确时间

PagedAttention导致KV cache内存浪费只发生在请求最后一个未填满的块中，vLLM报告浪费不到4%。

1

来源数

50%

置信度

长期有效

时效性

2026/10/12

首次发现

来源

LLM推理服务核心机制：KV Cache与PagedAttention深度解析

涉及实体

PagedAttentionconcept vLLMproduct

相关事实

待验证PagedAttention 由 vLLM 团队于 2023 年提出，借鉴操作系统虚拟内存分页机制，将 KV Cache 内存浪费率从超过 60% 降低至接近 4%74% 相似已验证vLLM的PagedAttention借鉴操作系统虚拟内存分页思想管理KV缓存，将显存碎片化损耗从约30%降低至接近072% 相似待验证传统LLM推理中，KV Cache的内存管理导致60%-80%的GPU显存被浪费70% 相似已验证PagedAttention将KV Cache的内存利用率从不足40%提升至接近100%69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1006018

API

curl https://kongchang.com/api/v1/knowledge/claims/1006018

MCP

get_claim(id=1006018)