概念SSA
Subquadratic Sparse Attention
一种稀疏注意力机制,让每个token只关注部分关键token,将注意力计算复杂度从二次方O(N²)降至接近线性O(N),使模型能高效处理超长上下文
时间轴 (近 90 天)
10月13日
Subquadratic 声称 SubQ Snap 的 Subquadratic Sparse Attention(SSA)可将注意力成本从二次方降为线性,100K token 可在 1 秒内返回,但该数据无硬件说明和第三方验证。
待验证50%