待验证50% 置信事实精确时间

稀疏注意力将每个query只与k个key交互（k远小于n），将复杂度降至O(nk)

1

来源数

50%

置信度

长期有效

时效性

2026/10/9

首次发现

来源

重新定义稀疏注意力：MASA用矩阵近似替代"挑大值"

涉及实体

稀疏注意力concept

相关事实

待验证k划分探测将计算开销从O(n)压缩到O(k)，其中k远小于序列长度n70% 相似已验证多头潜在注意力机制（MLA）通过对Key-Value缓存进行低秩压缩，显著降低推理阶段的KV Cache显存占用69% 相似待验证精确的 K 近邻搜索（KNN）时间复杂度为 O(n×d)，在数百万级别记忆条目下延迟不可接受，ANN 算法通过牺牲极小精度换取数量级速度提升68% 相似已验证自回归生成阶段每生成一个新token需对所有历史token重新计算注意力，计算量随序列长度呈O(n²)增长，KV Cache可将复杂度降至O(n)的增量操作66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/990365

API

curl https://kongchang.com/api/v1/knowledge/claims/990365

MCP

get_claim(id=990365)