PLUG

一种新型RNN架构，通过调和级数（harmonic numbers）驱动的多项式衰减替代传统指数衰减，解决长序列建模中的梯度消失问题，无需注意力机制，支持FFT加速计算