待验证50% 置信事实精确时间
每个LoRA模块对输出的影响被压缩在一个低维子空间内,该子空间的秩被称为“瓶颈秩”。
1
来源数
50%
置信度
长期有效
时效性
2026/10/19
首次发现
来源
有限秩瓶颈:LoRA低秩适配的理论新解
rss2026/10/16
涉及实体
相关事实
待验证低秩分解与量化压缩维度正交互补,对小矩阵A和B分别量化误差更小,叠加压缩比可达单一方法数倍70% 相似待验证该架构的关键环节是一个残差低维离散瓶颈(residual low-dimension discrete bottleneck),通过有限离散码本传递信息从而产生量化和信息损失69% 相似待验证MLA通过低秩联合压缩,将K和V投影到一个潜在向量空间,推理时仅缓存压缩后的潜在向量,在保持表达能力的同时把KV缓存压缩数倍。68% 相似待验证潜空间约束(Latent Space Constraint)通过在推理阶段对潜空间施加特定约束,可在不重新训练模型的前提下大幅缩小生成结果的方差,以牺牲生成多样性换取特定场景下的速度与稳定性。67% 相似待验证潜空间扩散模型先用编码器将图像压缩到低维潜在空间进行去噪迭代,再用解码器还原,将扩散过程计算量降低数个数量级67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1069407API
curl https://kongchang.com/api/v1/knowledge/claims/1069407MCP
get_claim(id=1069407)