【机器学习】xgboost系列丨xgboost原理及公式推导
机器学习初学者
共 2394字,需浏览 5分钟
·
2021-01-05 05:42
建树过程中如何选择使用哪个特征哪个值来进行分裂? 什么时候停止分裂? 如何计算叶节点的权值? 建完了第一棵树之后如何建第二棵树? 为防止过拟合,XGB做了哪些改进
树的集成
为子模型的预测函数,每个即是一棵树。
为第t棵树对第i个样本做出的预测。我们每次添加新树的时候,要优化的目标函数为上一个树产生的损失。
叶节点权重
分裂准则
损失函数计算
往期精彩回顾
获取本站知识星球优惠券,复制链接直接打开:
https://t.zsxq.com/qFiUFMV
本站qq群704220115。
加入微信群请扫码:
评论