Unverified50% confidenceFactExact time
批量梯度下降使用全部训练数据计算梯度,随机梯度下降每次只用一个样本,小批量梯度下降在两者之间取得平衡
1
Sources
50%
Confidence
Long-term
Relevance
8/12/2026
First Seen
Sources
Related Claims
Unverified在稠密检索中,批内负样本训练要求批次包含有信息量的负样本,随机采样会导致训练损失快速收敛但泛化性能差76% similarUnverified梯度累积通过在多个小批次上累积梯度后再执行一次参数更新,效果等同于使用大批次训练74% similarUnverified梯度下降衍生出批量梯度下降、随机梯度下降和小批量梯度下降三种主要变体,Adam优化器是在动量与自适应学习率基础上的综合改进74% similarUnverified梯度下降有批量梯度下降、随机梯度下降SGD和小批量梯度下降三种变体73% similarUnverifiedCopilot 基于统计模式预测,训练数据中出现频次较低的技术配置生成质量会显著下降72% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/735103API
curl https://kongchang.com/api/v1/knowledge/claims/735103MCP
get_claim(id=735103)