概念
RandOpt
一种基于随机权重扰动的模型适应方法,通过向预训练权重添加高斯噪声并多数投票来发现任务专家。
时间轴 (近 90 天)
11月3日
Gan & Isola 提出的 RandOpt(N, K) 方法对多个扰动版本进行多数投票以提升性能。
待验证50%
11月3日
RandOpt(N, K) 的多数投票策略被证明往往被一个简单基线方法匹配或超越:直接从基础模型采样 K 个样本进行多数投票。
待验证50%
一种基于随机权重扰动的模型适应方法,通过向预训练权重添加高斯噪声并多数投票来发现任务专家。
Gan & Isola 提出的 RandOpt(N, K) 方法对多个扰动版本进行多数投票以提升性能。
RandOpt(N, K) 的多数投票策略被证明往往被一个简单基线方法匹配或超越:直接从基础模型采样 K 个样本进行多数投票。