流式推理在每个时间步都要读写缓存状态，若状态张量较大或访问模式不连续，带宽压力会迅速转化为延迟。