Temperature
Temperature(温度参数)是机器学习与自然语言处理领域中用于控制模型输出随机性的超参数。在语言模型的文本生成过程中,Temperature通过缩放logits来调整概率分布的平滑程度:值越低,输出越确定、集中于高概率选项;值越高,输出越多样、随机性越强。该参数通常取正实数值,广泛应用于采样策略的调控。
Core Facts
Timeline (last 90 days)
GLM的联想参数对应模型生成时的Temperature或类似创意发散系数,数值越高模型越倾向引入新词汇和联想
提示词工程手段包括在System Prompt中规定输出为JSON格式、限制回答领域、通过Few-shot示例引导结构化输出、使用温度参数降低随机性
Transformer架构中产生概率性输出的关键机制是温度参数(Temperature)和采样策略,温度为0时输出趋于确定性最高的选择但仍无法保证与上次完全一致
对老年人等零基础听众,预先准备不同温度对比结果加生活化类比比现场调参演示更实用
温度(Temperature)参数体现创造性与幻觉的权衡:低温度使输出更确定保守,高温度增加随机性和创造性但也增加幻觉风险
高temperature加上缺失的repetition penalty容易导致模型陷入重复循环或生成无意义内容
水印算法的logit偏置通常在Temperature缩放之后、Top-k/Top-p截断之前施加
解码策略中温度参数设置过高会导致采样随机性增加,与幻觉产生有关
大语言模型的非确定性根源于其自回归采样过程,即便temperature设为0,不同推理框架、批处理大小和硬件浮点运算差异都可能导致输出漂移
All Facts (20)
大模型的温度参数(Temperature)取值范围通常为0到2,温度越低输出越确定和保守,温度越高输出越多样和富有创造性
80%Verified生产环境中Agent的Temperature参数建议设在0.1-0.3之间以保证输出一致性
80%Verified大语言模型基于Transformer架构,其输出本质上是概率采样过程,由Temperature参数控制采样随机性
80%Verified大语言模型在生成每个token时从概率分布中采样,temperature参数控制随机性的强弱,temperature越高输出越多样,越低则越确定
80%Verified大语言模型的非确定性根源于其自回归采样过程,即便temperature设为0,不同推理框架、批处理大小和硬件浮点运算差异都可能导致输出漂移
75%Verified解码策略中温度参数设置过高会导致采样随机性增加,与幻觉产生有关
65%UnverifiedTemperature=0(贪心采样)也不能保证模型输出的确定性,至少有三个原因:浮点运算非结合性、MoE路由不确定性、服务端配置漂移
90%UnverifiedCoze大模型参数中Temperature(温度)值0.1-0.3适用于技术文档和法律文书等需要严谨确定性的场景
85%Unverified框架采用「多版本发散+融合」策略,利用大语言模型的随机性生成多份方案,再融合为最终版本,本质上是集成学习思想在生成式AI中的应用
85%Unverified在工具调用场景中,通常建议将温度设置在较低水平(如0.1-0.3)以确保模型稳定准确地生成工具调用请求
80%UnverifiedRAG场景中建议使用低温度(temperature=0~0.3),因为高温度在增加创造性的同时也会放大幻觉风险
80%Unverified高temperature加上缺失的repetition penalty容易导致模型陷入重复循环或生成无意义内容
60%Unverified定温报警器灵敏度高但对缓慢升温(如干烧空锅)响应慢,差温+定温复合型能捕捉快速升温更适合防干烧,但价格更高且对油烟环境要求更严
60%UnverifiedGLM的联想参数对应模型生成时的Temperature或类似创意发散系数,数值越高模型越倾向引入新词汇和联想
50%Unverified提示词工程手段包括在System Prompt中规定输出为JSON格式、限制回答领域、通过Few-shot示例引导结构化输出、使用温度参数降低随机性
50%UnverifiedTransformer架构中产生概率性输出的关键机制是温度参数(Temperature)和采样策略,温度为0时输出趋于确定性最高的选择但仍无法保证与上次完全一致
50%Unverified对老年人等零基础听众,预先准备不同温度对比结果加生活化类比比现场调参演示更实用
50%Unverified温度(Temperature)参数体现创造性与幻觉的权衡:低温度使输出更确定保守,高温度增加随机性和创造性但也增加幻觉风险
50%Unverified水印算法的logit偏置通常在Temperature缩放之后、Top-k/Top-p截断之前施加
50%UnverifiedLLM基于Transformer架构的自注意力机制和Softmax概率分布,通过温度参数控制采样随机性,温度趋近0时输出最高概率token,温度升高时引入更多随机性
50%