待验证50% 置信解决方案精确时间

MASA的评分量化新增某个单元后矩阵乘积ÂV与完整注意力输出AV之间Frobenius误差能减少多少，同时考虑注意力权重和value向量幅度

1

来源数

50%

置信度

长期有效

时效性

2026/10/9

首次发现

来源

重新定义稀疏注意力：MASA用矩阵近似替代"挑大值"

涉及实体

相关事实

待验证在固定算力下，单头注意力比最优设置差0.9分，头太多质量反而会下降66% 相似待验证Meta、NVIDIA等公司的研究表明RAG在知识密集型任务上的准确率比纯参数记忆提高20%-40%66% 相似待验证Transformer注意力机制中的矩阵乘法和Softmax运算占据推理总算力的70%以上，ASIC可实现3至10倍的能效提升64% 相似已验证注意力机制的计算量与序列长度的平方成正比，将上下文翻倍意味着计算量增加四倍64% 相似待验证记忆检索的综合分数中相似度权重最大，时间新近度占比小，并乘以范围约0.8到1.2的重要性因子63% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/990373

API

curl https://kongchang.com/api/v1/knowledge/claims/990373

MCP

get_claim(id=990373)