如何用决策树模型做数据分析?
数据D江湖
共 3087字,需浏览 7分钟
·
2021-01-06 03:03
![](https://filescdn.proginn.com/2e5d69a415f4432eaa3d0ca9b94a91a1/d834c228c9b57016a92a7ada489bd04c.webp)
![](https://filescdn.proginn.com/d0afe7e0c97c67da73ee6011905f043b/973909e9c76ef7f1b17719f239c0ebb6.webp)
简单:逻辑相对简单,整个算法没有更复杂的逻辑,只是对节点进行分叉; 高效:模型训练速度较快; 强解释性:模型的判断逻辑可以用语言清晰的表达出来,比如上述决策树案例中的判断,就可以直接用语言表述成:脱离水不能生存的没有脚蹼的动物,我们判断它是鱼;
监督分层; 驱动力分析:某个因变量指标受多个因素所影响,分析不同因素对因变量驱动力的强弱(驱动力指相关性,不是因果性); 预测:根据模型进行分类的预测;
熵是什么?
![](https://filescdn.proginn.com/1a53adb5c1f65a9f47bdf8e3eb52d71d/4a9b66fbc4f7ba9fde07729aba7032fe.webp)
![](https://filescdn.proginn.com/c8b71db0a920fb7b84c50ff99468bb53/b4f143d243b9565594dfd361bde5e445.webp)
![](https://filescdn.proginn.com/da5732df804023c1a9a047694e01aad1/195ba37b5b4f5caec0af23df78262bc6.webp)
信息增益
![](https://filescdn.proginn.com/3bab3ea50ad5a9ed2281cad68ec229ec/570cd2da14eb6f9bf0568daa4ca7194b.webp)
![](https://filescdn.proginn.com/6cb8209aa5f61bc31f60b217b667aad1/ccb7e20207df5751a44092af1bc157cc.webp)
我们继续用上一篇文章《如何用线性回归模型做数据分析》中的共享单车服务满意分数据集来做案例,分析哪一类人群更加偏向于成为公司的推荐者,我们需要分析用户特征,更好的区分出推荐者。
![](https://filescdn.proginn.com/5626b0b76fad89113a2f731aaa01e2a6/b5e9043707258f91a6f92958a2aff021.webp)
![](https://filescdn.proginn.com/3cae30287761c2905957549ca6fc86d9/0340cffefe0009866466123bd9d9944e.webp)
![](https://filescdn.proginn.com/a3d156a92c93141d07a8b79ccf6c3b5a/be8c64cfcf57dc3d64fe7cd6acb8c161.webp)
![](https://filescdn.proginn.com/9499c08aff8c53c9edea6baf1c6f2bb6/9fa1ebfdd292804216acb25355c17c3e.webp)
树的深度 — 如规定树的深度不能超过3
叶子结点样本数 — 如叶子结点样本数不能小于10
信息增益 — 如每一个分叉的信息增益不能小于0.2(R中的默认值)
决策树在数据分析中的实战流程
![](https://filescdn.proginn.com/5626b0b76fad89113a2f731aaa01e2a6/b5e9043707258f91a6f92958a2aff021.webp)
![](https://filescdn.proginn.com/d8f417ccf8121d8be725896c13619b91/e0903898cdfe79a8698c7928e5d46c7b.webp)
![](https://filescdn.proginn.com/86630d1a7f6e8f4c4a82375a69af70a2/55b294ff7f8f0e8405c05fb7065bf04a.webp)
![](https://filescdn.proginn.com/74a95e0ee92d8889f3f04fa60dd0d30d/3e0a460f6de66e9e7e2c26ae33f9bf6e.webp)
![](https://filescdn.proginn.com/0844c5c8481695484632e87d94aec057/7ec73967f758f4581631d383b794ccf3.webp)
![](https://filescdn.proginn.com/cfe8cb41942905bcda5ca46533517349/d2550bba1f31275d884201a2656038c6.webp)
![](https://filescdn.proginn.com/7e9c143265c6b54e3eed22082ffafed1/afa38ad2f3d0fd890f72aee6cf129a31.webp)
模型建立后,可以将模型用作分类预测; 决策树不只可应用于预测量为分类变量,还可应用于数值型因变量,只需将熵改为连续变量的方差; 特征划分的方法除了信息增益方法外,还可以用增益率(C4.5决策树)、基尼指数(CART决策树); 剪枝是决策树算法中防止过拟合的主要手段,分为预剪枝与后剪枝。预剪枝指在决策树生成过程中,对每个结点在划分前进行估计,若当前结点划分不能使决策树泛化能力提升则停止划分。后剪枝指先从训练集生成一颗决策树,自底向上对非叶结点进行考察,若该结点对应的子树替换为叶结点能使决策树泛化能力提升,则该子树替换为叶结点;
评论