ConSDL
一种通过逐样本稀疏编码替代线性编码器来提升字典学习一致性的方法,旨在解决稀疏自编码器(SAE)在不同随机种子下字典不一致的问题。
时间轴 (近 90 天)
论文《Beyond SAEs: Consistent Concept Discovery with Sparse Coding》提出了ConSDL方法。
ConSDL用逐样本稀疏编码替代标准线性编码器,在多个视觉和语言任务上实现了最先进的跨种子一致性。
ConSDL对每个样本单独求解稀疏编码优化问题,相当于在训练中引入内循环,为每个激活向量找到当前字典下的最优稀疏表示。
在16组合成数据设置上,ConSDL的字典恢复能力接近完美,能准确还原字典原子和稀疏系数。
在四个视觉和语言设置的真实基准上,ConSDL相比六个SAE基线方法平均将字典一致性提升了17.6%,系数一致性提升了35.9%。
ConSDL训练中对每个样本的稀疏编码问题可用迭代收缩阈值算法(ISTA)或交替方向乘子法(ADMM)等求解。
ConSDL的逐样本优化增加了计算开销,但显著提升了可复现性。
ConSDL的提出并非要完全否定SAE,而是指出了线性编码器这一设计选择的局限性。
全部知识事实 (8)
论文《Beyond SAEs: Consistent Concept Discovery with Sparse Coding》提出了ConSDL方法。
50%待验证ConSDL用逐样本稀疏编码替代标准线性编码器,在多个视觉和语言任务上实现了最先进的跨种子一致性。
50%待验证ConSDL对每个样本单独求解稀疏编码优化问题,相当于在训练中引入内循环,为每个激活向量找到当前字典下的最优稀疏表示。
50%待验证在16组合成数据设置上,ConSDL的字典恢复能力接近完美,能准确还原字典原子和稀疏系数。
50%待验证在四个视觉和语言设置的真实基准上,ConSDL相比六个SAE基线方法平均将字典一致性提升了17.6%,系数一致性提升了35.9%。
50%待验证ConSDL训练中对每个样本的稀疏编码问题可用迭代收缩阈值算法(ISTA)或交替方向乘子法(ADMM)等求解。
50%待验证ConSDL的逐样本优化增加了计算开销,但显著提升了可复现性。
50%待验证ConSDL的提出并非要完全否定SAE,而是指出了线性编码器这一设计选择的局限性。
50%