列表

详情


172. 有关机器学习random forest 和xgboost的区别

回答思路

RF:采用Bootstrap的随机有放回的抽样,抽样出N份数据集,训练出N个决策树。然后根据N个决策树输出的结果决定最终结果。 xgboost:通过boosting的思想,由一堆cart树,将每棵树的预测值加在一起就得到了最后的预测值。 RF属于集成学习Bagging,而XGB属于集成学习Boosting。 RF是通过减少模型方差提高性能;XGB是通过减少模型偏差提高性能。 对于最终的输出结果而言,RF采用多数投票等;而XGB则是将所有结果累加起来,或者加权累加起来。

上一题