状态转移雅可比矩阵

在状态转移雅可比矩阵指数衰减的假设下，截断梯度与全上下文梯度之间的误差会随距离上下文边界的增加而指数衰减。

状态转移雅可比矩阵刻画RNN隐状态对前一时刻隐状态的敏感度，其乘积的范数行为决定梯度能否有效传递到远处。

截断窗口的选择应结合状态转移雅可比矩阵的衰减速度来设计：雅可比衰减较快时较短的窗口即可接近全上下文梯度，反之则需要更长的窗口。