低秩KV近似

一种大模型推理优化技术，利用注意力矩阵的低秩特性，通过奇异值分解等手段压缩Key-Value缓存，以低维投影替代完整KV向量存储，从而加速预填充阶段并降低显存占用