[控场AI]
概念Bias-Variance Tradeoff

偏差-方差权衡

统计学习理论核心概念,描述模型预测误差中偏差(欠拟合)与方差(过拟合)之间的此消彼长关系,是理解正则化、交叉验证、集成学习等技术的基础框架

核心事实

时间轴 (近 90 天)

9月11日

偏差-方差权衡由Geman等人在1992年形式化,均方误差可分解为MSE = Bias² + Variance

待验证50%
9月11日

Ledoit-Wolf收缩是偏差-方差权衡的应用,引入适度偏差来大幅降低估计方差从而使总体估计误差最小化

待验证50%
9月7日

监督学习模型在未见数据上的期望误差可分解为偏差²、方差和不可约噪声三个分量

待验证50%
9月7日

简单模型(如线性回归)通常高偏差低方差,复杂模型(如深层神经网络)则低偏差高方差

待验证50%
8月26日

偏差-方差权衡是理解模型欠拟合和过拟合的核心框架,高偏差意味着欠拟合,高方差意味着过拟合

待验证50%
7月13日

模型的泛化误差等于偏差平方加方差加不可约噪声

已验证65%
7月12日

总预测误差可以分解为偏差²+方差+不可约误差

待验证50%

全部知识事实 (7)

来源文章