概念representation collapse
表示坍缩
自监督学习中的核心挑战，指模型将所有输入映射到同一点或低维流形，使损失趋近于零但模型学不到有意义的表示
时间轴 (近 90 天)
10月22日
在该研究的实验中，三种JEPA变体均能稳定训练，未出现表示坍缩。
待验证50%
10月22日
JEPA类方法通常采用非对称架构（如动量编码器、stop-gradient）或正则化项（如VICReg的方差-协方差约束）来防止表示坍缩。
待验证50%
自监督学习中的核心挑战，指模型将所有输入映射到同一点或低维流形，使损失趋近于零但模型学不到有意义的表示
在该研究的实验中，三种JEPA变体均能稳定训练，未出现表示坍缩。
JEPA类方法通常采用非对称架构（如动量编码器、stop-gradient）或正则化项（如VICReg的方差-协方差约束）来防止表示坍缩。