人物
Tri Dao
AI研究者,FlashAttention论文的主要作者,专注于高效深度学习算法与GPU系统优化的交叉研究
核心事实
时间轴 (近 90 天)
10月15日
flash-attention 最初由 Tri Dao 等研究者提出,随后社区贡献者不断补充对新型 GPU 架构、低精度格式和融合算子的支持。
待验证50%
9月6日
Flash Attention由Tri Dao提出,在实践中实现了2-4倍的加速
待验证50%
8月26日
FlashAttention由斯坦福大学的Tri Dao等人提出,通过将注意力计算分块在GPU片上SRAM中完成,将内存访问次数降低一个数量级,是数学上精确等价的实现
已验证85%
全部知识事实 (7)
已验证
Flash Attention由斯坦福Tri Dao等人于2022年提出,通过分块计算与重计算将显存复杂度从O(N²)降低到O(N)
90%已验证Flash Attention是由斯坦福大学提出的注意力计算优化算法,通过分块处理将中间结果留在GPU高速SRAM中,降低显存带宽压力并减少显存占用
90%已验证FlashAttention由Tri Dao等人提出,通过IO感知的分块计算策略将注意力计算速度提升2-4倍
90%已验证FlashAttention由斯坦福大学的Tri Dao等人提出,通过将注意力计算分块在GPU片上SRAM中完成,将内存访问次数降低一个数量级,是数学上精确等价的实现
85%待验证flash-attention 最初由 Tri Dao 等研究者提出,随后社区贡献者不断补充对新型 GPU 架构、低精度格式和融合算子的支持。
50%待验证Flash Attention由Tri Dao提出,在实践中实现了2-4倍的加速
50%待验证Mamba架构由Gu和Dao于2023年提出,其选择性状态空间机制以线性复杂度处理长序列
50%