Bias-Variance Tradeoff
偏差-方差权衡:模型误差 = 偏差^2 + 方差 + 不可约误差,复杂度增加偏差减方差增。
用途
理解模型复杂度与泛化误差的关系,指导模型选择。
机制
偏差:模型预测与真值系统差距(欠拟合)。方差:不同训练集预测波动(过拟合)。简单模型高偏差低方差,复杂模型低偏差高方差。正则化找平衡点。
用例
- 模型选择
- 正则化调优
- 过拟合分析
偏差-方差权衡:模型误差 = 偏差^2 + 方差 + 不可约误差,复杂度增加偏差减方差增。
理解模型复杂度与泛化误差的关系,指导模型选择。
偏差:模型预测与真值系统差距(欠拟合)。方差:不同训练集预测波动(过拟合)。简单模型高偏差低方差,复杂模型低偏差高方差。正则化找平衡点。