概念neighbor overlap
邻域重叠
一种局部非参数的表征对齐判据,衡量每个样本的最近邻居集合在两组表征间是否一致,可在全局结构完全不同的情况下依然很高。
时间轴 (近 90 天)
10月15日
后续研究使用邻域、生成树、距离等不同手段检验表征对齐时得出了彼此矛盾的结论。
待验证50%
10月15日
在格结构中,PRH所主张的收敛位于格顶端,是全局性强意义的表征一致;支撑该主张的经验证据往往来自邻域重叠,它处于格底部附近,是弱得多的局部性判据。
待验证50%
10月15日
论文指出,校准在模型规模增长时会让邻域重叠继续增长,却基本上消除了中心化核对齐(CKA)的增长。
待验证50%
10月15日
邻域重叠只关心每个样本的最近邻居集合在两组表征间是否一致,是一种纯局部、非参数的判据。
待验证50%
10月15日
邻域重叠可以在全局结构完全不同的情况下依然很高,只要局部邻近关系被保留;而CKA的显著增长通常意味着更全局层面的对齐。
待验证50%