待验证50% 置信事实精确时间
经典梯度归因方法 TracIn 通过计算训练样本梯度与测试样本梯度的内积来估计影响,但需要对每个样本单独进行反向传播,计算复杂度随数据量线性增长,难以应用于百万级数据集。
1
来源数
50%
置信度
长期有效
时效性
2026/10/28
首次发现
来源
涉及实体
相关事实
已验证梯度累积通过在多个小批次上累积梯度后再执行一次参数更新,效果等同于使用大批次训练70% 相似待验证在长周期训练中,哪怕每个epoch有千分之一的样本错位,经过数万step累积后也可能显著改变模型的收敛路径,使得不同资源调度下的实验结果失去可比性。70% 相似待验证高斯DAG的高维结构学习面临统计-计算鸿沟:具有尖锐样本复杂度的方法依赖计算代价高昂的子集搜索并需要事先给定入度上界,而多项式时间算法的样本复杂度表现相对逊色69% 相似待验证大规模生成rollout需要高吞吐的推理能力,同时训练环节需要大量算力,两者在同一集群中的切换和分配是核心难题67% 相似待验证批量梯度下降使用全部训练数据计算梯度,随机梯度下降每次只用一个样本,小批量梯度下降在两者之间取得平衡66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1105867API
curl https://kongchang.com/api/v1/knowledge/claims/1105867MCP
get_claim(id=1105867)