[KongchangAI]
ConceptBias-Variance Tradeoff

偏差-方差权衡

统计学习理论核心概念,描述模型预测误差中偏差(欠拟合)与方差(过拟合)之间的此消彼长关系,是理解正则化、交叉验证、集成学习等技术的基础框架

Core Facts

Timeline (last 90 days)

Sep 11

偏差-方差权衡由Geman等人在1992年形式化,均方误差可分解为MSE = Bias² + Variance

Unverified50%
Sep 11

Ledoit-Wolf收缩是偏差-方差权衡的应用,引入适度偏差来大幅降低估计方差从而使总体估计误差最小化

Unverified50%
Sep 7

监督学习模型在未见数据上的期望误差可分解为偏差²、方差和不可约噪声三个分量

Unverified50%
Sep 7

简单模型(如线性回归)通常高偏差低方差,复杂模型(如深层神经网络)则低偏差高方差

Unverified50%
Aug 26

偏差-方差权衡是理解模型欠拟合和过拟合的核心框架,高偏差意味着欠拟合,高方差意味着过拟合

Unverified50%
Jul 13

模型的泛化误差等于偏差平方加方差加不可约噪声

Verified65%
Jul 12

总预测误差可以分解为偏差²+方差+不可约误差

Unverified50%

All Facts (7)

Source Articles