待验证50% 置信事实精确时间
作者提出的log-softmax、softmax和交叉熵修复实现不增加计算复杂度。
1
来源数
50%
置信度
长期有效
时效性
2026/10/23
首次发现
来源
涉及实体
相关事实
待验证修复Softmax Cancellation的方案是联合计算log-softmax并直接对logit差值做减法。67% 相似待验证交叉熵损失在分类任务中往往比MSE收敛更快，因为它与softmax输出配合，梯度不会在饱和区消失66% 相似待验证Soft-DTW用soft-min算子（基于log-sum-exp的平滑近似）替换动态规划中的min操作，使度量可计算梯度65% 相似待验证Softmax涉及指数运算、逐行归一化以及全局依赖，难以并行化和量化，在长序列场景下尤其消耗资源65% 相似待验证CLIP使用softmax交叉熵损失，计算复杂度为O(n²)，SigLIP的sigmoid损失使每个图文对独立计算，消除了对大批次训练的硬性依赖61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1088268API
curl https://kongchang.com/api/v1/knowledge/claims/1088268MCP
get_claim(id=1088268)