待验证50% 置信解决方案精确时间
Softmax 数值稳定的标准做法是减去最大值，计算 exp(x_i - max(x)) 而非 exp(x_i)，在数学上等价但避免上溢
1
来源数
50%
置信度
长期有效
时效性
2026/8/30
首次发现
来源
涉及实体
相关事实
待验证计算 softmax 函数时指数运算可能导致浮点数溢出，标准做法是先减去输入向量的最大值再取指数78% 相似待验证Softmax函数具有平移不变性，任意放大所有logit的尺度不改变预测类别，却会将输出概率压向极端值，是其天然的过度自信倾向71% 相似待验证softmax操作在处理极端值时容易因精度不足产生数值溢出或下溢，这是早期FP8量化效果不理想的核心技术原因68% 相似待验证缩放点积将点积除以√d（d为嵌入维度），使点积方差保持在合理范围，让Softmax输出更平滑的概率分布以稳定训练66% 相似待验证Min-Max 归一化公式为 (x - min) / (max - min)，将数据线性映射到 [0,1]，但对异常值极其敏感65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/826865API
curl https://kongchang.com/api/v1/knowledge/claims/826865MCP
get_claim(id=826865)