待验证50% 置信事实精确时间
vLLM的PagedAttention将KV Cache划分为固定大小物理块，通过块表实现地址映射，将碎片化率从60-80%降至不足4%，吞吐量提升可达24倍
1
来源数
50%
置信度
长期有效
时效性
2026/7/20
首次发现
来源
相关事实
待验证vLLM的PagedAttention将KV Cache碎片化率从传统方案的60-80%降至不足4%，吞吐量提升可达24倍85% 相似待验证vLLM的PagedAttention将KV缓存切分为固定大小物理块（通常16个token），使显存利用率从不足40%提升至接近90%85% 相似待验证vLLM通过PagedAttention技术将KV Cache的内存碎片率从60%以上压缩至接近零，在高并发场景下可将推理吞吐量提升数倍82% 相似待验证vLLM引入PagedAttention技术将KV Cache分割为固定大小物理块按需分配，而llama.cpp采用预分配策略在模型加载时一次性保留完整KV Cache空间81% 相似待验证PagedAttention将KV Cache拆分为固定大小的物理块通过块表映射，GPU利用率可从低于40%提升至90%以上81% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/575451API
curl https://kongchang.com/api/v1/knowledge/claims/575451MCP
get_claim(id=575451)