[控场AI]
概念Centered Kernel Alignment / 中心核对齐

CKA

由Kornblith等人于2019年提出的神经网络表征相似度度量方法,对线性变换具有不变性,可跨模型、跨层比较表征相似度,广泛用于神经网络可解释性研究

时间轴 (近 90 天)

10月15日

论文指出,校准在模型规模增长时会让邻域重叠继续增长,却基本上消除了中心化核对齐(CKA)的增长。

待验证50%
10月15日

CKA衡量两个表征空间整体相似度,先对特征做中心化处理,再比较样本间相似度矩阵的对应关系,对全局线性变换不敏感。

待验证50%
10月12日

CKA通过核矩阵的中心化对齐来度量相似性,对正交变换和等向缩放不变

待验证50%

全部知识事实 (3)

来源文章