待验证50% 置信事实精确时间
单个序列KV Cache的显存占用为2×L×n×h×d_head×sizeof(dtype)字节
1
来源数
50%
置信度
长期有效
时效性
2026/8/13
首次发现
来源
相关事实
待验证位域（Bitfield）数据结构允许将多个布尔标志或小整数打包进单个机器字，通过位掩码和移位操作进行读写，只需1-2个CPU指令周期61% 相似待验证vLLM通过块表间接映射让多个逻辑序列指向同一物理块，实现KV Cache零拷贝共享，并采用写时复制策略60% 相似待验证Jaccard相似度将字符串切分为n-gram集合，计算两个集合的交集大小除以并集大小57% 相似待验证PagedAttention通过写时复制机制允许多个序列共享相同的前缀块，在beam_width=4的典型配置下可节省约55%的KV Cache显存开销57% 相似已验证KV Cache通过缓存已计算的Key/Value矩阵，将推理复杂度从O(n²)降至O(n)55% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/740555API
curl https://kongchang.com/api/v1/knowledge/claims/740555MCP
get_claim(id=740555)