待验证50% 置信解决方案精确时间
修复Softmax Cancellation的方案是联合计算log-softmax并直接对logit差值做减法。
1
来源数
50%
置信度
长期有效
时效性
2026/10/23
首次发现
来源
涉及实体
相关事实
待验证Soft-DTW用soft-min算子（基于log-sum-exp的平滑近似）替换动态规划中的min操作，使度量可计算梯度68% 相似待验证作者提出的log-softmax、softmax和交叉熵修复实现不增加计算复杂度。67% 相似待验证哈达玛变换可用于LLM超低比特量化的预处理，缓解离群值导致的精度崩溃问题64% 相似待验证Softmax 数值稳定的标准做法是减去最大值，计算 exp(x_i - max(x)) 而非 exp(x_i)，在数学上等价但避免上溢63% 相似待验证Softmax Collapse导致的梯度失衡可能让模型过早锁定在记忆解，延迟或阻止向泛化解的过渡。61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1088267API
curl https://kongchang.com/api/v1/knowledge/claims/1088267MCP
get_claim(id=1088267)