待验证50% 置信事实精确时间
乘积键记忆将记忆组织为两组键向量的笛卡尔积,每个记忆槽由一对键(k₁, k₂)的乘积索引。
1
来源数
50%
置信度
长期有效
时效性
2026/10/21
首次发现
来源
涉及实体
相关事实
待验证乘积键结构将记忆容量从 O(N) 扩展到 O(N²),而只需 O(N) 的存储和计算。71% 相似待验证乘积键记忆需要计算查询与所有键的内积,当键的数量较多时,计算复杂度会显著上升。69% 相似待验证每Token需要搬运的KV缓存字节数计算公式为:kv_bytes_per_token = 2 * layers * kv_heads * head_dim * dtype_bytes,系数2对应Key和Value两份。67% 相似待验证KV Cache内存占用与层数×注意力头数×上下文长度×精度成正比,GQA通过让多个查询头共享同一组Key-Value头来减少缓存量,Llama 2/3和Qwen系列已采用此设计67% 相似待验证差分启发式需要O(K×N)的存储空间(K个地标、N个节点),例如100万节点的图使用16个地标、每个距离值4字节存储,总内存约64MB65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1079931API
curl https://kongchang.com/api/v1/knowledge/claims/1079931MCP
get_claim(id=1079931)