Random Forest
随机森林训练多棵决策树,每棵用自助采样数据与随机特征子集,预测时投票/平均,降低方差。
用途
鲁棒易用的集成方法,减少决策树过拟合。
机制
每棵树用 bootstrap 样本训练,每次分裂仅考虑随机特征子集(√p)。预测取多数投票(分类)或均值(回归)。袋外误差估计泛化误差。
用例
- 分类与回归
- 特征重要性
- 鲁棒预测
随机森林训练多棵决策树,每棵用自助采样数据与随机特征子集,预测时投票/平均,降低方差。
鲁棒易用的集成方法,减少决策树过拟合。
每棵树用 bootstrap 样本训练,每次分裂仅考虑随机特征子集(√p)。预测取多数投票(分类)或均值(回归)。袋外误差估计泛化误差。