cart分类和回归树算法

CART算法--分类和回归树算法
CART(Classification And Regression Tree)算法采用一种二分递归分割的技术，将当前的样本集分为两个子样本集，使得生成的决策树的每个非叶子节点都有两个分支。

因此，CART算法生成的决策树是结构简洁的二叉树。

以下是算法描述：其中T代表当前样本集，当前候选属性集用T_attributelist表示。

（1）创建根节点N
（2）为N分配类别
（3）if T都属于同一类别or T中只剩下一个样本则返回N为叶节点，为其分配属性
（4）for each T_attributelist中属性执行该属性上的一个划分，计算此划分的GINI系数
（5）N的测试属性test_attribute=T_attributelist中最小GINI 系数的属性
（6）划分T得到T1 T2子集
（7）对于T1重复（1）-（6）
（8）对于T2重复（1）-（6）
CART算法考虑到每个节点都有成为叶子节点的可能，对每个节点都分配类别。

分配类别的方法可以用当前节点中出现最多的类别，也可以参考当前节点的分类错误或者其他更复杂的方法。

CART算法仍然使用后剪枝。

在树的生成过程中，多展开一层就会有多一些的信息被发现，CART算法运行到不能再长出分支位置，从而得到一棵最大的决策树。

然后对这棵大树进行剪枝。

决策树之CART算法（回归树分类树）
**CART算法（Classification and Regression Trees）**是一种运
用在分类和回归问题中的决策树学习算法，它的本质是一种机器学习算法，主要用于对数据进行分类和回归。

它由美国统计学家 Breiman等人在
1984年提出。

CART算法可以将复杂的数据集简单地划分成多个部分，其本质是一
种贪心算法，可以让学习者从实例中学习决策树，用于解决复杂的分类或
回归问题。

该算法通过构建最优二叉树来实现特征选择，从而使得分类的
准确性最大化。

###CART算法的原理
CART算法是一种有监督学习的算法，可以将训练数据或其他更复杂
的信息表示为一棵二叉树。

通过采用不断划分训练集的方式，将数据集划
分成越来越小的子集，使数据更容易分类。

基本原理如下：
1.首先从根结点开始，从训练集中选择一个最优特征，使用该特征将
训练集分割成不同的子集。

2.递归地从每个子结点出发，按照CART算法，每次选择最优特征将
其分割成不同的子结点。

3.当到达叶子结点时，从所有的叶子结点中选出一个最优的结点，比
如分类误差最小的结点，作为最终的结果。

###CART算法的执行流程
CART算法的执行流程如下：
1.首先，从训练集中获取每个特征的可能取值。

经典算法CARTCART（Classification And Regression Trees）是一种经典的算法，用于建立分类和回归树模型。

它是由Leo Breiman在1984年首次提出的，目前被广泛应用于数据挖掘和机器学习领域。

CART算法基于决策树的思想，可以将输入数据集分割成多个小的子集，每个子集代表一个决策树节点。

通过对特征的选择和分割，可以使得每个子集的纯度更高，即同一类别的样本更多。

最终，CART算法会生成一棵满足纯度要求的决策树模型。

CART算法的主要步骤如下：1. 特征选择：CART算法使用其中一种准则来选择最佳的特征。

常用的准则包括基尼指数（Gini index）和信息增益（information gain）。

基尼指数衡量了数据集的不纯度，而信息增益衡量了特征对数据集纯度的贡献程度。

选择具有最大基尼指数或信息增益的特征作为当前节点的划分特征。

2.划分数据集：根据划分特征的取值将数据集分成多个子集。

对于离散特征，每个取值对应一个子集；对于连续特征，可以选择一个划分点将数据集分成两个子集。

3.递归建立子树：对每个子集，重复步骤1和步骤2，递归地建立子树。

直到达到停止条件，例如达到最大深度或纯度要求。

4.剪枝处理：为了避免过拟合，CART算法会对生成的决策树进行剪枝处理。

根据其中一种评估准则，剪去部分子树或合并子树。

CART算法具有一些优点，使得它成为一种经典的算法。

首先，CART算法可以处理离散特征和连续特征，非常灵活。

其次，CART算法生成的决策树易于理解和解释，可以用于预测和决策解释。

此外，CART算法还能处理多分类和回归问题。

然而，CART算法也存在一些限制。

首先，CART算法只能生成二叉树，即每个节点只有两个分支。

这可能会导致决策树过于复杂，需要更多的分支来表示复杂的决策边界。

其次，CART算法在处理高维数据和数据不平衡的情况下可能会遇到困难，需要进行特殊处理。

总结起来，CART算法是一种经典的算法，用于建立分类和回归树模型。

分类和回归树算法分类和回归树（CART）是一种常用的决策树算法，用于解决分类和回归问题。

它可以根据给定的特征将数据集划分为不同的区域，并在每个区域内预测目标变量的取值。

在本文中，我将详细介绍CART算法的原理、构建过程和优缺点。

一、CART算法原理CART算法是一种基于特征划分的贪心算法，它通过递归地划分数据集来构建决策树。

算法的核心思想是选择一个最优特征和最优切分点，使得划分后的子集尽可能纯净。

具体来说，CART算法构建决策树的过程如下：1.选择最优特征和最优切分点：遍历所有特征和所有可能的切分点，计算每个切分点的基尼指数（用于分类）或均方差（用于回归），选择使得切分后子集纯度最大或方差最小的特征和切分点。

2.划分数据集：将数据集根据选定特征和切分点划分为两个子集，一个子集包含特征值小于等于切分点的样本，另一个子集包含特征值大于切分点的样本。

3.递归构建子树：对于每个子集，重复上述步骤，直到满足停止条件。

停止条件可以是：达到最大深度、子集中样本数量小于一些阈值、子集中样本类别完全相同等。

4.构建决策树：重复上述步骤，不断构建子树，将所有子树连接起来形成一棵完整的决策树。

5.剪枝：在构建完整的决策树后，通过剪枝来减小过拟合。

剪枝是通过判断在进行划分后树的整体性能是否有所提升，如果没有提升，则将该子树转化为叶节点。

二、CART算法构建过程下面以分类问题为例，详细描述CART算法的构建过程。

1. 输入：训练集D = {(x1, y1), (x2, y2), ..., (xn, yn)}，特征集A = {a1, a2, ..., am}。

2.输出：决策树T。

3.若D中所有样本都属于同一类别C，则将T设为单节点树，并标记为C类，返回T。

4.若A为空集，即无法再选择特征进行划分，则将T设为单节点树，并将D中样本数量最多的类别标记为C类，返回T。

5. 选择最优特征a*和最优切分点v*：遍历特征集A中的每个特征ai和每个可能的切分点vi，计算切分后子集的基尼指数或均方差，选择使得基尼指数或均方差最小的特征和切分点a*和v*。

大数据经典算法CART讲解CART（分类与回归树）是一种经典的机器学习算法，用于解决分类和回归问题。

它是由Leo Breiman等人在1984年提出的，是决策树算法的一种改进和扩展。

CART算法的核心思想是通过将输入空间划分为多个区域来构建一棵二叉树，每个区域用于表示一个决策规则。

CART算法的整个过程可以分为两个部分：生成和剪枝。

在生成阶段，CART算法通过递归地将数据集切分为两个子集，直到满足一些停止条件。

在剪枝阶段，CART算法通过剪枝策略对生成的树进行剪枝，以防止过拟合。

生成阶段中，CART算法的切分准则是基于Gini系数的。

Gini系数衡量了将数据集切分为两个子集后的不纯度，即数据集中样本不属于同一类别的程度。

CART算法通过选择Gini系数最小的切分点来进行切分，使得切分后的两个子集的纯度最高。

剪枝阶段中，CART算法通过损失函数来评估子树的贡献。

损失函数考虑了子树的拟合程度和子树的复杂度，以平衡模型的拟合能力和泛化能力。

剪枝阶段的目标是找到一个最优的剪枝点，使得剪枝后的子树的整体损失最小。

CART算法具有许多优点。

首先，CART算法可以处理多类别问题，不需要进行额外的转换。

其次，CART算法能够处理混合类型的数据，比如同时具有连续型和离散型特征的数据。

此外，CART算法能够处理缺失数据，并能够自动选择缺失数据的处理方法。

最后，CART算法生成的模型具有很好的可解释性，可以直观地理解决策过程。

然而，CART算法也存在一些不足之处。

首先，CART算法是一种贪心算法，通过局部最优来构建模型，不能保证全局最优。

其次，CART算法对输入特征的顺序敏感，不同的特征顺序可能会导致不同的模型结果。

此外，CART算法对噪声和异常值很敏感，可能会导致过拟合。

在实际应用中，CART算法广泛应用于分类和回归问题。

在分类问题中，CART算法可以用于构建决策树分类器，对样本进行分类预测。

在回归问题中，CART算法可以用于构建决策树回归器，根据输入特征预测输出值。

cart算法
cart算法，全称Classification and Regression Trees，即分类与回归树算法，是一种基于决策树的机器学习算法。

cart算法可以用于分类问题和回归问题。

在分类问题中，cart算法根据特征值将数据集划分为多个子集，并通过选择一个最佳划分特征和划分阈值来构建决策树。

在回归问题中，cart算法根据特征值将数据集划分为多个子集，并通过选择一个最佳划分特征和划分阈值来构建回归树。

cart算法的核心思想是通过递归地选择最佳划分特征和划分阈值来构建决策树。

在每个节点上，通过计算基于当前特征和划分阈值的Gini指数（用于分类问题）或平方误差（用于回归问题）来评估划分的好坏，选择最小的Gini指数或平方误差对应的特征和划分阈值进行划分。

划分后的子集继续递归地进行划分，直到满足停止条件（如节点中的样本数小于预设阈值或达到最大深度为止），然后生成叶子节点并赋予相应的类别标签或回归值。

cart算法具有较好的拟合能力和可解释性，可以处理混合类型的特征和缺失值。

然而，cart算法容易过拟合，需要采取剪枝操作或加入正则化项来降低模型复杂度。

可以通过使用不同的评估标准和剪枝策略来改进cart算法，如基于信息增益、基尼系数、均方差等评估标准和预剪枝、后剪枝等剪枝
策略。

此外，也可以使用集成学习方法（如随机森林、梯度提升树）来进一步提高模型的性能。

cart分类树算法流程英文回答：The CART (Classification and Regression Trees) algorithm is a decision tree-based machine learning algorithm that is commonly used for classification tasks.It follows a recursive partitioning approach to split the data into smaller subsets based on the values of different features. The algorithm builds the classification tree by repeatedly finding the best split that maximizes the information gain or Gini impurity.The CART algorithm can be summarized in the following steps:1. Start with the entire dataset as the root node of the tree.2. For each feature, evaluate the possible split points and calculate the impurity measure (information gain orGini impurity) for each split.3. Select the feature and split point that results in the highest impurity reduction.4. Create two child nodes for the selected split point, one for the instances that satisfy the split condition and another for the instances that do not.5. Repeat steps 2-4 for each child node until a stopping criterion is met. This criterion could be a maximum tree depth, minimum number of instances in a leaf node, or any other user-defined condition.6. Assign a class label to each leaf node based on the majority class of the instances in that node.The resulting classification tree can be used to make predictions on new instances by traversing the tree from the root node to a leaf node based on the feature values of the instance. The class label assigned to the leaf node is then used as the predicted class for the instance.中文回答：CART（分类和回归树）算法是一种基于决策树的机器学习算法，通常用于分类任务。

大数据经典算法CART_讲解资料CART算法，即分类与回归树（Classification and Regression Tree）算法，是一种经典的应用于大数据分析的算法。

它将数据集按照特征属性进行划分，然后根据各个特征属性的分割点将数据集划分为多个子集，进而得到一个树形的划分结构。

通过分析划分特征和划分点的选择，CART算法能够高效地解决分类和回归问题。

对于分类问题，CART算法通过衡量不纯度（impurity）来选择划分特征和划分点。

常用的不纯度指标包括基尼指数（Gini index）和信息增益（information gain）。

基尼指数衡量了随机从一个样本集合中抽取两个样本，其中属于不同类别的概率；信息增益则使用熵（entropy）作为不纯度的度量标准。

CART算法会选择使得划分后的子集的纯度提升最大的特征属性和相应的划分点进行划分。

对于回归问题，CART算法通过最小化划分后的子集的方差来选择划分特征和划分点。

在每个内部节点上，CART算法选择使得划分后的子集的方差最小化的特征属性和相应的划分点进行划分。

CART算法的优点在于它能够处理高维数据和有缺失值的数据，具有较强的鲁棒性。

此外，CART算法构建的决策树具有可解释性，能够提供对数据的直观理解。

同时，CART算法还能处理不平衡类别数据和多类别问题。

然而，CART算法也存在一些不足之处。

首先，CART算法是一种局部最优算法，可能会陷入局部最优解而无法达到全局最优解。

其次，CART 算法不适用于处理连续型特征属性，需要对连续特征进行离散化处理。

此外，由于CART算法是自顶向下的贪心算法，因此容易过拟合，需要采用一些剪枝策略进行模型的修剪。

在实际应用中，为了提高CART算法的性能，可以使用集成学习方法如随机森林、梯度提升树等。

这些方法通过构建多个CART模型，并通过集成的方式来提高预测准确率和鲁棒性。

总结起来，CART算法是一种经典的大数据分析算法，适用于解决分类和回归问题。

CART算法介绍CART（Classification and Regression Trees，分类与回归树）算法是一种用于建立决策树模型的机器学习算法。

CART算法由Breiman等人于1984年提出，并在之后的几十年中被广泛应用于分类和回归问题。

CART算法的核心思想是将特征空间划分为矩形区域，并在每个矩形区域内生成一个预测值，以最小化预测值与真实值之间的误差。

在分类问题中，CART算法使用基尼指数（Gini index）作为分割准则，用于衡量分割点的纯度；在回归问题中，CART算法使用平方误差作为分割准则，用于衡量分割点的误差。

具体来说，CART算法的流程如下：1.选择一个特征和一个分割点，将数据集分成两个子集。

2.计算两个子集的纯度或误差。

3.重复步骤1和步骤2，直到达到停止条件（如达到最大深度、子集大小小于一些阈值等）。

4.生成一个决策树，每个非叶节点表示一个特征及其分割点，每个叶节点表示一个预测值。

1.非参数化：决策树不对数据的分布做出任何假设，可以适用于各种不同类型的数据。

2.解释性：生成的决策树可以被直观地解释和理解，可以用于推断和决策。

3.高效性：CART算法的时间复杂度相对较低，可以处理大规模数据集。

4.可处理离散和连续特征：CART算法可以处理离散和连续特征，通过选择最佳分割点来划分数据集。

5.可处理多类别问题：CART算法可以处理多类别分类问题，通过构建多棵决策树进行投票或平均预测。

然而，CART算法也存在一些限制：1.容易过拟合：决策树倾向于过度拟合训练数据，特别是当决策树的深度很大或训练样本数量很少时。

2.不稳定性：CART算法对于数据的微小变化非常敏感，可能会导致生成完全不同的决策树。

3.缺乏连续性：CART算法生成的决策树是分段平面，对于一些连续变量的建模可能不够精确。

为了解决CART算法的一些限制，可以采用以下方法：1. 剪枝（pruning）：通过修剪决策树的一些分支来降低过拟合风险，在验证集上选择合适的剪枝策略。

分类和回归树决策树聚类算法随着数据科学的迅速发展，决策树算法在数据挖掘和机器学习领域中得到了广泛的应用。

其中，分类和回归树（CART）是一种常用的决策树算法，可以用于分类和回归问题的建模与预测。

本文将介绍分类和回归树决策树算法的原理、应用场景以及优缺点，并探讨其在聚类分析中的应用。

一、分类和回归树决策树算法简介分类和回归树（CART）是一种基于决策树的机器学习算法，它通过对特征空间进行递归的二分划分，生成一棵二叉树模型。

在CART 算法中，每个非叶节点表示一个特征，每个叶节点表示一个类别或一个数值。

CART算法通过选择最佳的特征及其切分点，使得每个子节点的样本尽可能地纯净，从而实现对数据的分类或回归预测。

CART算法是一种贪心算法，它通过递归地选择最优切分点来构建决策树。

在每个节点上，CART算法遍历所有特征及其可能的切分点，计算每个切分点的基尼系数或均方差，选择使得切分后差异最小的特征及切分点进行划分。

递归地进行切分，直至满足停止准则，如树的深度达到预设值或节点样本数量小于阈值。

二、分类和回归树决策树算法的应用场景1. 分类问题CART算法在分类问题中得到了广泛的应用。

例如，在医学诊断中，可以使用CART算法对患者的症状和检查结果进行分类，帮助医生判断患者是否患有某种疾病。

在金融风险评估中，可以使用CART 算法对客户的信用信息进行分类，预测客户是否有违约风险。

在电商推荐系统中，可以使用CART算法对用户的购买行为和偏好进行分类，为用户提供个性化的推荐。

2. 回归问题CART算法也可以用于回归问题的建模与预测。

例如，在房价预测中，可以使用CART算法对房屋的面积、位置、朝向等特征进行回归预测，得到房屋的价格。

在股票预测中，可以使用CART算法对股票的历史交易数据进行回归预测，预测股票的未来走势。

在气象预测中，可以使用CART算法对气象数据进行回归预测，预测未来的天气情况。

三、分类和回归树决策树算法的优缺点1. 优点（1）CART算法易于理解和实现，可以生成可解释性强的决策树模型。

CART: 分类与回归树介绍：分类与回归树CART (Ciassification and Regression Trees)是分类数据挖掘算法的一种。

它描述给定预测向量值X后，变量Y条件分布的一个灵活的方法。

该模型使用了二叉树将预测空间递归划分为若干子集，Y在这些子集的分布是连续均匀的。

树中的叶节点对应着划分的不同区域，划分是由与每个内部节点相关的分支规则(Spitting Rules)确定的。

通过从树根到叶节点移动，一个预测样本被赋予一个惟一的叶节点，Y在该节点上的条件分布也被确定。

CART模型最旱由Breman等人提出并己在统计学领域普遍应用。

在分类树下面有两个关键的思想。

第一个是关于递归地划分自变量空间的想法；第二个想法是用验证数据进行剪枝。

一、决策树的类型在数据挖掘中，决策树主要有两种类型:分类树的输出是样本的类标。

回归树的输出是一个实数(例如房子的价格，病人呆在医院的时间等)。

术语分类和回归树(CART) 包含了上述两种决策树, 最先由Breiman 等提出.分类树和回归树有些共同点和不同点—例如处理在何处分裂的问题。

分类回归树(CART,Classification And Regression Tree)也属于一种决策树，之前我们介绍了基于ID3和C4.5算法的决策树。

这里只介绍CART是怎样用于分类的。

分类回归树是一棵二叉树，且每个非叶子节点都有两个孩子，所以对于第一棵子树其叶子节点数比非叶子节点数多1。

CART与ID3区别：CART中用于选择变量的不纯性度量是Gini指数；如果目标变量是标称的，并且是具有两个以上的类别，则CART可能考虑将目标类别合并成两个超类别（双化）；如果目标变量是连续的，则CART算法找出一组基于树的回归方程来预测目标变量。

二、构建决策树构建决策树时通常采用自上而下的方法，在每一步选择一个最好的属性来分裂。

"最好" 的定义是使得子节点中的训练集尽量的纯。

CART算法简述1. 引言CART（Classification and Regression Trees）算法是一种常用的决策树算法，它可以用于分类和回归问题。

CART算法通过将数据集分割成不同的子集，构建一棵二叉树来进行预测和决策。

本文将详细介绍CART算法的原理、步骤和应用。

2. 原理CART算法基于二叉树结构，每个非叶节点都有两个子节点，从而形成一个树状结构。

在分类问题中，每个叶节点代表一个类别；在回归问题中，每个叶节点代表一个数值。

CART算法通过递归地选择最佳切分特征和切分点来构建决策树。

具体步骤如下：•首先选择一个特征和切分点，将数据集分割成两个子集。

•计算每个子集的纯度或误差。

•根据纯度或误差选择最佳切分特征和切分点。

•重复上述步骤直到满足停止条件。

3. 步骤3.1 特征选择在CART算法中，特征选择是非常重要的一步。

常用的特征选择指标包括信息增益、基尼系数和均方差等。

信息增益用于分类问题，基尼系数用于分类和回归问题，均方差用于回归问题。

3.2 切分点选择在选择特征后，需要确定切分点。

对于连续特征，可以通过遍历所有可能的切分点，并计算纯度或误差来选择最佳切分点。

对于离散特征，可以遍历所有可能的取值，并计算纯度或误差来选择最佳切分点。

3.3 停止条件CART算法在构建决策树时需要满足一定的停止条件。

常用的停止条件包括：达到最大深度、节点中样本数量小于某个阈值、节点中样本属于同一类别或具有相似的数值等。

3.4 剪枝为了防止过拟合，CART算法通常会进行剪枝操作。

剪枝是指从已经生成的决策树中去掉一些子树，使得整个决策树更加简洁而泛化能力更强。

4. 应用CART算法在实际应用中具有广泛的应用场景，包括但不限于以下几个领域：4.1 金融风控在金融风控领域，CART算法可以用于评估借款人的信用风险。

通过构建决策树，可以根据借款人的个人信息和财务状况来判断其还款能力和违约概率。

4.2 医学诊断在医学诊断领域，CART算法可以用于预测疾病的发生和发展趋势。

【机器学习】十、分类和回归树CART原理一文详解，分类和回归树算法背后原理。

码字不易，喜欢请点赞，谢谢！！！一、前言分类和回归树(Classification And Regression Trees)，简称CART，是1984年提出来的既可用于分类，又可用于回归的树。

CART被称为数据挖掘领域内里程碑式的算法。

上一节介绍了决策树的ID3和C4.5算法，后面说到了C4.5算法存在几点不足，主要为，生成多叉树；容易过拟合；只能用于分类；特征选择采用熵模型计算量大。

而CART针对C4.5算法的这几点不足都提出了改进。

本文将会一一介绍。

二、CART特征选择方法CART算法包括分类树和回归树，其中分类树和回归树的特征选择采用的是不同的方法，这里依次介绍。

CART分类树特征选择在ID3中，采用信息增益来选择特征；在C4.5中，采用信息增益率来选择特征；而在CART的分类树中，则是采用基尼系数来选择特征。

这是因为，信息论中的熵模型，存在大量的对数运算，而基尼系数在简化熵模型的计算的同时保留了熵模型的优点。

基尼系数基尼系数代表模型的纯度，基尼系数越大，模型越不纯；基尼系数越小，模型越纯。

因此在特征选择时，选择基尼系数小的来构建决策树，这和信息增益(率)是相反的。

基尼系数表达式：式中KKK表示分类问题有KKK个类别，第kkk个类别的概率为pkp_kpk?。

如果是二分类，公式将更简单，假设第一类的概率为ppp，则基尼系数表达式为：对于个给定的样本DDD,假设有KKK个类别, 第kkk个类别的数量为CkC_kCk?,则样本DDD的基尼系数表达式为：特别的，对于样本DDD，如果根据特征AAA的某个值aaa，把DDD分成D1D1D1和D2D2D2两部分，则在特征AAA的条件下，DDD的基尼系数表达式为：从熵模型到基尼系数到这里你可能还不明白为什么可以使用基尼系数来替代熵，推导如下：从上面推导可以得知，通过泰勒展开，可以将基尼系数近似的等价于熵模型。

统计学习⽅法：CART算法作者：桂。

时间：2017-05-13 14:19:14、前⾔内容主要是CART算法的学习笔记。

CART算法是⼀个⼆叉树问题，即总是有两种选择，⽽不像之前的ID3以及C4.5B可能有多种选择。

CART算法主要有回归树和分类树，⼆者常⽤的准则略有差别：回归树是拟合问题，更关⼼拟合效果的好坏，此处⽤的是均⽅误差准则; 分类树是分类问题，更像是离散变量的概率估计，⽤与熵类似的Gini系数进⾏度量。

⼀、CART算法——回归树因为是回归问题，只要抓住两个要点就好：1）如何切分;2）切分后的不同区域，如何取值;先来分析⼀下⼀次划分的操作： A-回归树切分选择第j个变量和它的取值s，作为切分变量和切分点，并定义两个区域：通过寻找最⼩均⽅误差点，实现切分： B-回归树的输出值对固定输⼊变量j找到最优切分点s，并定义各⾃区域均值为输出变量： C-回归树举例看⼀下习题中的例⼦：数据的切分点分别为：1.5，2.5，3.5，4.5，5.5，6.5，7.5，8.5，9.5从公式可以看出输出值c就是对应类别内y的均值。

当切分点选择s = 2.5时，区域R1有：c1 = (4.5+4.75)/2=4.625区域R2有：同样c2 = 7.17从⽽计算出s = 2.5对应的估计误差：不同的s切分点，对应的估计误差不同，最后选择最⼩误差对应的切分点，这就完成了⼀次切分：此时的c1,c2分别对应两类输出值。

假设s=6.5处实现了第⼀次划分，第⼆次就是分别在⼦区域进⼀步划分，如将：进⾏⼆次切分，步骤思路与上⾯完全⼀致。

总结⼀下CART回归树的算法思路：⼆、CART算法——分类树 A-基尼系数CART分类树不再是基于信息增益，⽽是引⼊了Gini系数，给出基尼系数定义：⼆分问题中Gini系数与熵之半的对⽐：可以看出基尼系数与熵的特性类似，也是不确定性（信息量）的⼀种量度。

⼀⽅⾯，如果对于样本集合D，基尼系数：其中是D中属于第k类的样本⼦集，K是类的个数。