[控场AI]
概念

神经厚丛

一种关于预训练模型权重空间的理论假说,认为预训练模型权重邻域内密集分布着擅长不同任务的专家模型,可通过随机扰动激活。

时间轴 (近 90 天)

11月3日

Gan & Isola(2026)提出神经厚丛假说:预训练模型处于一个密集的任务专家集合中,简单的高斯权重扰动就能显现这些专家。

待验证50%
11月3日

最近一项重新审视神经厚丛的研究在 12 个模型-任务组合中,有 10 个组合的 top 专家奖励提升超过 75% 可被一个仅基于选择噪声的零模型预测。

待验证50%
11月3日

Gan & Isola 的原始工作与重新审视研究之间的分歧主要在于:扰动带来的提升是否具有泛化性,以及多数投票策略的有效性。

待验证50%

全部知识事实 (3)

来源文章