#LLM解码

在线温度采样：信息论视角下的LLM解码新方法

LLM解码中温度采样常为静态启发式方法，本文解读一篇从信息论出发提出的在线温度采样算法EOS，分析其如何通过在线估计全局最优温度抑制重复生成，并给出理论性能保证与实验验证。