待验证50% 置信事实精确时间
梯度下降沿损失函数梯度的反方向更新参数，参数更新公式通常为 w ← w − η·∂L/∂w，其中 η 是学习率。
1
来源数
50%
置信度
长期有效
时效性
2026/10/16
首次发现
来源
神经网络反向传播原理与代码实战：从零理解大模型核心算法
bilibili大模型阿琴2026/10/16
涉及实体
相关事实
待验证MSE损失函数对参数W的偏导为 ∂L/∂W = (2/n) * Xᵀ(XW - y)，对b的偏导为 ∂L/∂b = (2/n) * Σ(y_pred - y)69% 相似待验证在鲁棒回归中将似然函数从高斯替换为t分布，等价于在损失函数中降低离群点的权重，能提升模型对异常值的鲁棒性66% 相似待验证L1正则在损失函数中加入参数绝对值之和作为惩罚项，其几何性质使最优解倾向落在坐标轴上，L2正则则加入参数平方和，惩罚大系数但不将其归零62% 相似待验证策略梯度定理表明期望回报对策略参数的梯度可表示为 ∇J(θ) = E[∇log π_θ(a|s) · A(s,a)]，其中A是优势函数62% 相似待验证选择性预测框架中效用函数通常写作 U = α·P(correct) - β·P(wrong)，α和β代表答对收益与答错惩罚权重61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1043699API
curl https://kongchang.com/api/v1/knowledge/claims/1043699MCP
get_claim(id=1043699)