待验证50% 置信事实精确时间
模型输出的原始分数是logits,需经softmax函数转换为概率分布,temperature正是在softmax之前对logits做缩放:温度趋于0时分布趋于尖锐(接近贪心),温度升高则分布趋于平坦。
1
来源数
50%
置信度
长期有效
时效性
2026/10/19
首次发现
来源
LLM如何预测下一个Token?拆解大模型生成机制
rss2026/10/19
涉及实体
相关事实
待验证温度是控制语言模型输出随机性的超参数,作用于logits,将logit除以温度T再经softmax归一化;T<1时分布更尖锐输出更确定,T>1时分布更平坦输出更随机76% 相似待验证模型蒸馏的核心在于温度softmax函数的应用,通过温度参数T软化概率分布揭示类别间的相似性关系71% 相似待验证LLM基于Transformer架构的自注意力机制和Softmax概率分布,通过温度参数控制采样随机性,温度趋近0时输出最高概率token,温度升高时引入更多随机性70% 相似已验证模型蒸馏通过温度缩放软化教师模型的softmax输出,使低概率类别信息得以传递给学生模型69% 相似已验证大语言模型在生成每个token时从概率分布中采样,temperature参数控制随机性的强弱,temperature越高输出越多样,越低则越确定68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1067377API
curl https://kongchang.com/api/v1/knowledge/claims/1067377MCP
get_claim(id=1067377)