[控场AI]
概念Temperature Scaling

温度缩放

温度缩放是一种神经网络后校准技术,通过在验证集上学习一个温度参数对模型输出的logits进行缩放,从而改善概率估计的校准性,无需重新训练模型

时间轴 (近 90 天)

9月29日

温度缩放通过在softmax之前将logit值除以可学习的标量参数T来校准模型,T大于1软化概率分布,T小于1使分布更尖锐,无需重新训练主模型

待验证50%
9月18日

置信度校准的工程缓解手段包括温度缩放对logprobs后校准、引入独立验证模型打分、或通过多次采样统计结果一致性

待验证50%
9月16日

实践中常用温度缩放、Platt scaling等后处理方法对置信度进行重新校准

待验证50%
9月11日

解决模型校准不良的技术手段包括温度缩放、Platt Scaling等后处理校准方法,以及贝叶斯神经网络、MC Dropout等不确定性估计技术

待验证50%

全部知识事实 (4)

来源文章