概念Centered Kernel Alignment / 中心核对齐
CKA
由Kornblith等人于2019年提出的神经网络表征相似度度量方法,对线性变换具有不变性,可跨模型、跨层比较表征相似度,广泛用于神经网络可解释性研究
时间轴 (近 90 天)
10月15日
论文指出,校准在模型规模增长时会让邻域重叠继续增长,却基本上消除了中心化核对齐(CKA)的增长。
待验证50%
10月15日
CKA衡量两个表征空间整体相似度,先对特征做中心化处理,再比较样本间相似度矩阵的对应关系,对全局线性变换不敏感。
待验证50%
10月12日
CKA通过核矩阵的中心化对齐来度量相似性,对正交变换和等向缩放不变
待验证50%