概念Low-Rank Compression / 低秩分解
低秩压缩
一种模型压缩技术，通过将神经网络线性层权重矩阵分解为两个低秩矩阵之积（通常借助SVD实现），以减少参数量和计算量，降低大模型推理部署开销
时间轴 (近 90 天)
10月8日
传统低秩压缩在推理阶段使用固定的秩分配，不区分输入token的复杂程度而投入相同计算资源
待验证50%
10月8日
低秩分解通常借助奇异值分解（SVD）实现，参数量从m×n降至r×(m+n)
待验证50%
10月8日
秩r的选取是精度与效率的权衡，r越小压缩率越高但近似误差越大
待验证50%