在自回归解码中，注意力层通常缓存所有历史 token 的 Key 和 Value（KV Cache），显存随序列长度线性增长，但每步只需追加、无需重算；SSM 层则只保留固定大小的状态。