概念Pooling / 跨问题池化策略
跨问题池化
将不同问题的生成计数合并利用的统计策略,通过利用跨问题的结构信息更高效地利用有限数据来估计模型答案分布
时间轴 (近 90 天)
10月16日
机制二:在中间区域,将不同问题的生成计数池化(pooling)比单独估计每个答案分布更有效,从额外问题中仅能获得对数级增益。
待验证50%
10月16日
池化的统计直觉:将所有问题的生成计数合并估计共享权重,相当于用更多数据估计更少参数以降低方差,但问题间模型优劣差异很大时强制共享会引入偏差。
待验证50%