概念生成策略
采样策略
LLM从下一个token的概率分布中选择具体token的方法,如贪心、温度采样、top-k、top-p等
时间轴 (近 90 天)
10月19日
确定性采样器会抬高每个分数,因此应使用实际交付时存在的变体来采样。
待验证50%
10月16日
当候选方案的生产成本低、筛选成本也低时,最优策略是快速生成大量答案而非努力把一个答案做对。
待验证50%
LLM从下一个token的概率分布中选择具体token的方法,如贪心、温度采样、top-k、top-p等
确定性采样器会抬高每个分数,因此应使用实际交付时存在的变体来采样。
当候选方案的生产成本低、筛选成本也低时,最优策略是快速生成大量答案而非努力把一个答案做对。