待验证50% 置信事实精确时间

在损失最小值附近，损失增加量近似为 ΔL ≈ ½ · H · δ²，其中H是曲率（二阶导数），δ是量化误差范围。

1

来源数

50%

置信度

长期有效

时效性

2026/10/17

首次发现

来源

QAT与BitNet：1-bit及1.58-bit量化训练解析

涉及实体

损失曲面concept 曲率concept

相关事实

已验证梯度下降通过迭代公式 θ = θ - α∇J(θ) 更新参数，其中α是学习率，∇J(θ)是损失函数对参数的偏导数向量76% 相似待验证当分位点 τ=0.5 时，分位数损失退化为平均绝对误差（MAE）74% 相似待验证工作中引入的权重衰减常数λ*定义为 λ* = 1 - αₗᵣ·λ，其中αₗᵣ为学习率，λ为原始权重衰减系数73% 相似待验证梯度下降更新规则为 v → v − η∇C，由于 η>0 且 ‖∇C‖²≥0，保证每次更新降低代价 ΔC ≤ 072% 相似待验证岭回归通过在损失函数中添加L2正则化项将回归系数向零收缩但不置零，而LASSO（L1正则化）会产生稀疏解71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1053584

API

curl https://kongchang.com/api/v1/knowledge/claims/1053584

MCP

get_claim(id=1053584)