概念Influence Functions
影响函数
统计学中用于估计单个训练样本对模型参数或预测结果影响程度的技术,核心思想是估计移除某个样本后模型参数的变化量,在深度学习中常用于识别误标注样本、数据选择和模型调试
时间轴 (近 90 天)
10月15日
点式样本选择策略存在敏感性和冗余性问题,容易导致采集函数过拟合。
待验证50%
10月14日
影响函数是统计学中用于估计单个训练样本对模型参数或预测结果影响程度的技术,其核心思想是:如果移除某个样本并重新训练,模型参数会变化多少。
待验证50%
10月14日
在深度学习语境下,精确计算影响函数需要求解Hessian矩阵的逆与梯度向量的乘积,代价极高,因此实践中常用共轭梯度法或Hessian-向量积来近似。
待验证50%
10月14日
Koh & Liang在2017年将影响函数引入深度学习,用于识别误标注样本和理解模型行为。
待验证50%