概念
神经厚丛
一种关于预训练模型权重空间的理论假说,认为预训练模型权重邻域内密集分布着擅长不同任务的专家模型,可通过随机扰动激活。
时间轴 (近 90 天)
11月3日
Gan & Isola(2026)提出神经厚丛假说:预训练模型处于一个密集的任务专家集合中,简单的高斯权重扰动就能显现这些专家。
待验证50%
11月3日
最近一项重新审视神经厚丛的研究在 12 个模型-任务组合中,有 10 个组合的 top 专家奖励提升超过 75% 可被一个仅基于选择噪声的零模型预测。
待验证50%
11月3日
Gan & Isola 的原始工作与重新审视研究之间的分歧主要在于:扰动带来的提升是否具有泛化性,以及多数投票策略的有效性。
待验证50%