KV Cache通过缓存历史token的注意力键值对，避免每步生成时对全部历史序列的重复计算，降低长序列生成的时延和算力消耗