待验证50% 置信事实精确时间
MASA(Matrix Approximation Sparse Attention)使用闭式解评分来衡量每个稀疏单元能在多大程度上降低矩阵乘积的近似误差
1
来源数
50%
置信度
长期有效
时效性
2026/10/9
首次发现
来源
涉及实体
相关事实
待验证论文将稀疏注意力重新表述为矩阵近似(matrix approximation)问题,而非从一袋条目中挑选最大值的问题70% 相似待验证分组量化将权重矩阵按固定大小(通常32或64个元素)分组,每组独立计算量化缩放因子以减少精度损失68% 相似待验证RANSAC通过反复随机抽取最小点集估计变换模型,将与模型一致的点归为内点,在存在大量误匹配时仍能可靠估计单应性矩阵68% 相似已验证LoRA将权重更新矩阵ΔW分解为两个秩远低于原矩阵的小矩阵A和B之积,参数量可缩减至原来的万分之一甚至更少67% 相似待验证MASA在多种稀疏注意力方法、多个基准测试和不同LLM骨干模型上实验显示出一致的精度提升67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/990372API
curl https://kongchang.com/api/v1/knowledge/claims/990372MCP
get_claim(id=990372)