#序列模型

长程记忆的代价：序列模型中的状态、上下文与稳定性复杂度

一篇arXiv理论研究深入剖析序列模型处理长程记忆的资源代价，证明了状态数的平方对数复杂度定律、分数记忆的1/L上下文规律及临界性必要条件，并通过状态空间、门控循环与注意力模型实验验证。