[KongchangAI]
ConceptTemperature Scaling

温度缩放

温度缩放是一种神经网络后校准技术,通过在验证集上学习一个温度参数对模型输出的logits进行缩放,从而改善概率估计的校准性,无需重新训练模型

Timeline (last 90 days)

Sep 29

温度缩放通过在softmax之前将logit值除以可学习的标量参数T来校准模型,T大于1软化概率分布,T小于1使分布更尖锐,无需重新训练主模型

Unverified50%
Sep 18

置信度校准的工程缓解手段包括温度缩放对logprobs后校准、引入独立验证模型打分、或通过多次采样统计结果一致性

Unverified50%
Sep 16

实践中常用温度缩放、Platt scaling等后处理方法对置信度进行重新校准

Unverified50%
Sep 11

解决模型校准不良的技术手段包括温度缩放、Platt Scaling等后处理校准方法,以及贝叶斯神经网络、MC Dropout等不确定性估计技术

Unverified50%

All Facts (4)

Source Articles