待验证50% 置信权衡取舍精确时间
Softmax倾向于产生赢家通吃的尖锐分布，而平方归一化的分布形态可能更分散或更集中
1
来源数
50%
置信度
长期有效
时效性
2026/10/10
首次发现
来源
涉及实体
相关事实
待验证Softmax函数具有平移不变性，任意放大所有logit的尺度不改变预测类别，却会将输出概率压向极端值，是其天然的过度自信倾向71% 相似待验证计算 softmax 函数时指数运算可能导致浮点数溢出，标准做法是先减去输入向量的最大值再取指数71% 相似待验证当模型遇到分布外输入时预测熵升高，softmax输出趋于均匀分布，nucleus sampling允许的候选token范围扩大，使长尾异常token获得被采样的机会69% 相似待验证Softmax输出的概率值并不等同于真实的贝叶斯后验概率，而是被过度优化以拉开类别间距，导致预测概率系统性偏高69% 相似待验证Softmax函数将神经网络logits压缩为概率分布，但其输出值在大规模模型中系统性偏离真实贝叶斯后验概率68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/995032API
curl https://kongchang.com/api/v1/knowledge/claims/995032MCP
get_claim(id=995032)