待验证50% 置信事实精确时间

低秩分解将m×n权重矩阵近似为A(m×r)与B(r×n)的乘积，存储参数量从m×n降至r×(m+n)

1

来源数

50%

置信度

长期有效

时效性

2026/7/19

首次发现

来源

块低秩压缩：内存受限GPU上的大模型推理加速指南

相关事实

待验证SVD将任意m×n矩阵A分解为U·Σ·V^T，图像压缩通过只保留前k个最大奇异值实现最优低秩逼近（Eckart-Young定理）69% 相似待验证LoRA的数学原理是将权重更新矩阵分解为两个低秩矩阵的乘积，文件体积通常仅几十至几百MB61% 相似待验证MLA通过将KV矩阵压缩为低维潜在向量缓存，理论上可将KV Cache显存占用降低至标准MHA的5%至13%61% 相似待验证PQ乘积量化通过切分向量、局部聚类、编码替代，可将向量存储体积压缩约8倍（四维示例中从16字节压缩到2字节）60% 相似待验证MLA将高维K、V矩阵投影至低秩潜在空间，压缩比可达8-16倍59% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/560262

API

curl https://kongchang.com/api/v1/knowledge/claims/560262

MCP

get_claim(id=560262)