[控场AI]
人物

Tri Dao

AI研究者,FlashAttention论文的主要作者,专注于高效深度学习算法与GPU系统优化的交叉研究

核心事实

时间轴 (近 90 天)

10月15日

flash-attention 最初由 Tri Dao 等研究者提出,随后社区贡献者不断补充对新型 GPU 架构、低精度格式和融合算子的支持。

待验证50%
9月6日

Flash Attention由Tri Dao提出,在实践中实现了2-4倍的加速

待验证50%
8月26日

FlashAttention由斯坦福大学的Tri Dao等人提出,通过将注意力计算分块在GPU片上SRAM中完成,将内存访问次数降低一个数量级,是数学上精确等价的实现

已验证85%

全部知识事实 (7)

来源文章