概念Edge-aware Attention Layer
边感知注意力层
一种面向图生成模型的注意力层设计,通过头级分数调制注入结构信息并用轻量残差机制更新边表示,兼容现代硬件感知注意力内核
时间轴 (近 90 天)
10月21日
一篇题为《Efficient Edge-aware Attention Network for Graph Generation》的研究提出了一种边感知注意力层,通过头级分数调制注入结构信息,并用轻量残差机制更新边表示。
待验证50%
10月21日
该边感知注意力层借助PyTorch FlexAttention实现,在保持生成质量的同时将峰值GPU显存降低约65%,并显著提升训练与采样吞吐量。
待验证50%