概念Stochastic Rounding / 随机取整
随机舍入
一种低精度计算中的数值技术,以与误差大小成比例的概率决定向上或向下取整,从统计期望上保持无偏性,用于缓解低精度梯度累积中的系统性偏差
时间轴 (近 90 天)
10月13日
随机舍入以与小数部分成正比的概率在相邻两个重建电平之间选择,在期望意义上无偏,被广泛用于低比特量化缓解累积偏差。
待验证50%
一种低精度计算中的数值技术,以与误差大小成比例的概率决定向上或向下取整,从统计期望上保持无偏性,用于缓解低精度梯度累积中的系统性偏差
随机舍入以与小数部分成正比的概率在相邻两个重建电平之间选择,在期望意义上无偏,被广泛用于低比特量化缓解累积偏差。