ConceptModel Collapse
模型崩溃
模型崩溃是机器学习训练过程中出现的异常失效现象,广义上指模型因梯度爆炸、数值不稳定或训练目标失衡等原因导致性能骤降乃至完全失效;在生成模型领域特指模型输出多样性严重丧失、仅能生成少数重复样本的分布坍缩状态。该现象常见于生成对抗网络(GAN)训练及以合成数据反复迭代训练的场景中,是模型鲁棒性研究的重要课题。
模型崩溃是机器学习训练过程中出现的异常失效现象,广义上指模型因梯度爆炸、数值不稳定或训练目标失衡等原因导致性能骤降乃至完全失效;在生成模型领域特指模型输出多样性严重丧失、仅能生成少数重复样本的分布坍缩状态。该现象常见于生成对抗网络(GAN)训练及以合成数据反复迭代训练的场景中,是模型鲁棒性研究的重要课题。