首页 > 编程语言 >机器学习—决策树—分类与回归树(CART)算法

机器学习—决策树—分类与回归树(CART)算法

时间:2022-10-21 11:15:13浏览次数:44  
标签:10 Gini 划分 CART 算法 已婚 决策树

1 CART算法

CART全称叫Classification and Regression Tree,即分类与回归树。CART假设决策树是二叉树,内部结点特征的取值只有“是”和“否”,左分支是取值为“是”的分支,有分支则相反。这样的决策树等价于递归地二分每个特征。 

CART分类回归树可以做分类或者回归。如果待预测结果是离散型数据,则CART生成分类决策树;如果待预测结果是连续型数据,则CART生成回归决策树。数据对象的属性特征为离散型或连续型,并不是区别分类树与回归树的标准。CART作为分类决策树时,待预测样本落至某一叶子节点,则输出该叶子节点中所有样本所属类别最多的那一类(即叶子节点中的样本可能不是属于同一个类别,则多数为主);作为回归决策树时,待预测样本落至某一叶子节点,则输出该叶子节点中所有样本的均值

1.1 CART分类树

CART分类树使用基尼指数作为节点划分依据,我们通过例题分析CART分类树实现过程。

1.1.1 例题

下表5-1为拖欠贷款人员训练样本数据集,使用CART算法基于该表数据构造决策树模型,并使用5-2表中测试样本集确定剪枝后的最优子树。

表5-1 拖欠贷款人员训练样本数据集
编号 房产状况 婚姻情况 年收(千元) 拖欠贷款
1 单身 125
2 已婚 100
3 单身 70
4 已婚 120
5 高异 95
6 已婚 60
7 高异 220
8 单身 85
9 已婚 75
10 单身 90
 

 

表5-2 拖欠贷款人员测试样本数据集
编号 房产状况 婚姻情况 年收入(千元) 拖欠贷款
1 已婚 225
2 已婚 50
3 单身 89
4 已婚 320
5 离异 150
6 离异 70
 

【解】对于房产状况特征,根据是否有房划分数据集:

标签:10,Gini,划分,CART,算法,已婚,决策树
From: https://www.cnblogs.com/opencv2015/p/16812774.html

相关文章

  • 机器学习—决策树—决策树的剪枝
    1决策树的剪枝当输入的原始数据有较多的变量时,通过决策树算法生成的决策树可能会非常的庞大。这样的一颗决策树在训练集上有很好的表现,但是在测试集上的表现往往不甚理想......
  • A* 自动寻路算法-JavaScript
    效果图代码<!DOCTYPEhtml><htmllang="en"><head><metacharset="UTF-8"><metahttp-equiv="X-UA-Compatible"content="IE=edge"><metaname="viewport"......
  • 排序算法
    1、归并排序归并是把两个或两个以上有序表合并成一个新的有序表,即把待排序序列分为若干个子序列,每个子序列是有序的,然后把有序子序列合并为整体有序序列。注意:在递归中......
  • 每日算法:驼峰转换,判断连续字符
    每日算法今日是:1、将字符串转换为驼峰格式2、判断字符串中是否有连续重复的字符将字符串转换成驼峰格式//css中经常有类似background-image这种通过-连接的字......
  • python | 算法-拓扑排序
    写在前面:我自己用python练习算法与数据结构的典型算法汇总在这里:汇总-算法与数据结构-python版,欢迎翻阅!1️⃣参考链接:https://github.com/algorithmzuo/algorithmbasic......
  • 通俗易懂谈强化学习之Q-Learning算法实战
     Datawhale干货 作者:知乎KingJames,伦敦国王大学​前言:​​上篇​​介绍了什么是强化学习,应大家需求,本篇实战讲解强化学习,所有的实战代码可以自行下载运行。本篇使用强化......
  • [图像算法] Linemod算法研究 (一)
    Linemod算法研究(一)开始研究传统图像处理算法,近期不再做任何deeplearning相关内容,请暂时不要咨询我deeplearning相关的东西。。。先了解一下大致工作流程:ref:Grad......
  • "百钱买百鸡"的优化算法
       最近独到一篇关于"百钱买百鸡"的Python编程,觉得挺有意思,索性自己改写一下优化算法。   原题目:#我国古代数据加张邱建在《算经》中提出一个著名的数序为......
  • 【路径规划】基于麻雀算法的路径优化问题附matlab代码
    ✅作者简介:热爱科研的Matlab仿真开发者,修心和技术同步精进,matlab项目合作可私信。......
  • 基于蚁群结合遗传算法的路径规划问题附Matlab代码
    ✅作者简介:热爱科研的Matlab仿真开发者,修心和技术同步精进,matlab项目合作可私信。......