[控场AI]
概念Stochastic Rounding / 随机取整

随机舍入

一种低精度计算中的数值技术,以与误差大小成比例的概率决定向上或向下取整,从统计期望上保持无偏性,用于缓解低精度梯度累积中的系统性偏差

时间轴 (近 90 天)

10月13日

随机舍入以与小数部分成正比的概率在相邻两个重建电平之间选择,在期望意义上无偏,被广泛用于低比特量化缓解累积偏差。

待验证50%

全部知识事实 (1)

来源文章