[控场AI]
概念neighbor overlap

邻域重叠

一种局部非参数的表征对齐判据,衡量每个样本的最近邻居集合在两组表征间是否一致,可在全局结构完全不同的情况下依然很高。

时间轴 (近 90 天)

10月15日

后续研究使用邻域、生成树、距离等不同手段检验表征对齐时得出了彼此矛盾的结论。

待验证50%
10月15日

在格结构中,PRH所主张的收敛位于格顶端,是全局性强意义的表征一致;支撑该主张的经验证据往往来自邻域重叠,它处于格底部附近,是弱得多的局部性判据。

待验证50%
10月15日

论文指出,校准在模型规模增长时会让邻域重叠继续增长,却基本上消除了中心化核对齐(CKA)的增长。

待验证50%
10月15日

邻域重叠只关心每个样本的最近邻居集合在两组表征间是否一致,是一种纯局部、非参数的判据。

待验证50%
10月15日

邻域重叠可以在全局结构完全不同的情况下依然很高,只要局部邻近关系被保留;而CKA的显著增长通常意味着更全局层面的对齐。

待验证50%

全部知识事实 (5)

来源文章