GBDT与XGBOOST串讲

点击上方“小白学视觉”，选择加"星标"或“置顶”

重磅干货，第一时间送达

最近，一直被GBDT和XGBOOST烦恼，产生了如下的问题，由此产生了这篇文章。

• XGBOOST怎么生成一棵树？

• GBDT算法是什么？

• GBDT与BT(提升树)是一回事吗？

本篇文章结构:

Boosting Tree(提升树)

提升树是采用加法模型与前向分布算法进行提升的，是基于残差进行训练的。提升树分为回归树和二叉分类树，对于分类问题就是分类树(可以参考AdaBoost算法),对于回归问题就是回归树。至于为什么叫“提升”树？我的理解是因为是加法模型，相加进而为提升。

具体算法如下:

其中2.a步是计算残差，2.b步通过把2.a的残差当作标签,可以使用线性回归的方法进行拟合残差。通过M次循环一共得到M+1颗树，每个输入数据X的结果，是M+1棵树预测的结果之和。 

GB算法

当提升树的损失函数是平方损失和指数损失时，每一步优化很简单；但是对于一般函数，优化不是非常简单，因此采用梯度下降法进行优化。至于为什么是“梯度提升”，我的理解是首先基于当前模型损失函数的负梯度信息进行拟合形成新的弱分类器,然后根据残差进行寻找该新分类器的权重!由此，即为梯度提升!

具体算法如下:

第4步，使用梯度作为标签进行拟合新的一棵树；第5步是基于残差进行得到新的一颗树的权重，其中残差来自于第i个数据的标签y与前m-1棵树的差得到的。其中F(x)表示前几棵树的总的函数。

GBDT算法

 

有了上面的GB算法介绍，那么使用决策树作为弱分类器的GB算法被称为GBDT(Gradient Boosting Decision Tree)。一般采用CART得到决策树，CART是采用基尼指数作为决策树的损失增益函数。基尼指数反应了数据集D中任意两个样本不一致的概率。其基尼指数越高则数据集D的纯度越高；纯度越高正是决策树每个叶子节点的类别越一致。信息熵和基尼指数都是《信息论》中的内容。

XGBOOST

 

XGBOOST是GBDT算法的工程实现，XGBOOST的公式推导采用二阶泰勒公式的展开形式进行推导，使得每棵树之间得变化更小，而且还使用了正则化项，控制了每棵树的复杂度,进而防止过拟合。

公式推导也可以参见论文XGBoost: A Scalable Tree Boosting System

XGBOOST在生成一颗树的时候，使用如下公式进行左右分支。

训练得到第M棵树的损失函数：   

其实XGBOOST每一次分支采用的是贪心算法，对于决策说来说每次分支也是采用贪心算法，只不过每次进行分支使用的损失函数不一样。对于决策树有基尼指数、信息熵等loss函数。

小白团队出品：零基础精通语义分割↓↓↓
下载1：OpenCV-Contrib扩展模块中文版教程
在「小白学视觉」公众号后台回复：扩展模块中文教程，即可下载全网第一份OpenCV扩展模块教程中文版，涵盖扩展模块安装、SFM算法、立体视觉、目标跟踪、生物视觉、超分辨率处理等二十多章内容。

下载2：Python视觉实战项目52讲
在「小白学视觉」公众号后台回复：Python视觉实战项目，即可下载包括图像分割、口罩检测、车道线检测、车辆计数、添加眼线、车牌识别、字符识别、情绪检测、文本内容提取、面部识别等31个视觉实战项目，助力快速学校计算机视觉。

下载3：OpenCV实战项目20讲
在「小白学视觉」公众号后台回复：OpenCV实战项目20讲，即可下载含有20个基于OpenCV实现20个实战项目，实现OpenCV学习进阶。

交流群

欢迎加入公众号读者群一起和同行交流，目前有SLAM、三维视觉、传感器、自动驾驶、计算摄影、检测、分割、识别、医学影像、GAN、算法竞赛等微信群（以后会逐渐细分），请扫描下面微信号加群，备注：”昵称+学校/公司+研究方向“，例如：”张三 + 上海交大 + 视觉SLAM“。请按照格式备注，否则不予通过。添加成功后会根据研究方向邀请进入相关微信群。请勿在群内发送广告，否则会请出群，谢谢理解~