[控场AI]
概念CTD / Calibrated Temperature Decoding

校准温度解码

一种基于模型校准特性的LLM解码方法,当模型校准良好时,只需离线拟合一个标量温度即可获得接近最优的解码效果,推理时零额外开销

来源文章