概念Mode Collapse
模式崩溃
原指生成对抗网络中生成器输出多样性崩溃的现象,泛指机器学习模型在训练过程中输出趋于单一、无法响应输入变化的失效模式
时间轴 (近 90 天)
10月26日
模式崩溃是指生成器反复输出容易骗过判别器的样本,导致生成结果多样性严重不足。
待验证50%
10月22日
用强化学习训练模型进行并行思维存在模式崩溃的根本性缺陷,即模型输出的多条并行路径会退化成高度相似的轨迹。
待验证50%
10月22日
模式崩溃原是生成模型(如GAN)中的术语,指生成器倾向于只产出少数几种样本,无法覆盖数据分布的全部模式;在强化学习语境下表现为策略过早收敛到少数高奖励轨迹上。
待验证50%
10月18日
LLM倾向于在固定的模式集合里搭建东西,直接接受其第一个产出会导致项目同质化。
待验证50%
10月4日
两种超网络扩展都出现了模式崩溃,改变偏好权重几乎无法让模型沿预期的公平—性能前沿产生系统性移动
待验证50%