FlexAttention

PyTorch 2.5 引入的可编程注意力接口，允许用户通过 score_mod 和 mask_mod 钩子自定义注意力分数修改与掩码逻辑，底层自动生成融合高效内核，兼顾灵活性与硬件加速