概念overparameterisation / Overparameterization
过参数化
指模型参数量超过训练样本数的状态，在此状态下非凸损失函数表现出良性景观特性，如无虚假局部极小值、所有鞍点为严格鞍点
时间轴 (近 90 天)
10月16日
经典PAC-Bayes泛化理论在过参数化场景下（D >> n）失效，因为先验定义在欧几里得参数空间上，相对熵随网络维度D线性增长，导致泛化界迅速膨胀超过1000%。
待验证50%
10月15日
对任意紧支撑的目标分布，只要粒子数足够多，加权MMD优化景观中每一个局部极小值处的MMD都可以任意小。
待验证50%
10月15日
在加权MMD优化领域，此前关于过参数化良性景观的结果多集中在神经网络或特定非凸问题上，MMD粒子优化的对应理论一直是空白。
待验证50%
9月2日
Zhang 等人在2017年证明了标准深度网络能够完美拟合随机标签的训练数据
待验证50%