机器学习算法（3）之决策树算法

一、什么是决策树

所谓决策树，就是一个类似于流程图的树形结构，树内部的每一个节点代表的是对一个特征的测试，树的分支代表该特征的每一个测试结果，而树的每一个叶子节点代表一个类别。树的最高层是就是根节点。下图即为一个决策树的示意描述，内部节点用矩形表示，叶子节点用椭圆表示。

二、决策树的学习过程

一棵决策树的生成过程主要分为以下3个部分:

特征选择 ：特征选择是指从训练数据中众多的特征中选择一个特征作为当前节点的分裂标准，如何选择特征有着很多不同量化评估标准标准，从而衍生出不同的决策树算法。
决策树生成 ：根据选择的特征评估标准，从上至下递归地生成子节点，直到数据集不可分则停止决策树停止生长。树结构来说，递归结构是最容易理解的方式。
剪枝：决策树容易过拟合，一般来需要剪枝，缩小树结构规模、缓解过拟合。剪枝技术有预剪枝和后剪枝两种。

在讲解特征选择前，我们先了解一些概念。

决策树节点的不纯度（impurity）

不纯度（impurity）--GINI系数：

不纯度（impurity）--Entropy熵：

设X是一个取有限个值的离散随机变量，其概率分布为：

则随机变量X的熵定义为：

第一步：如何切分特征（选择节点）--特征选择

问题：根节点的选择该用哪个特征呢？接下来呢？如何切分呢？

目标：通过一种衡量标准，来计算通过不同特征进行分支选择后的分类情况，找出来最好的那个当成根节点，以此类推。

衡量标准-熵、GINI系数(不纯度）

熵：熵是表示随机变量不确定性的度量
解释：说白了就是物体内部的混乱程度，比如杂货市场里面什么都有那肯定混乱呀，专卖店里面只卖一个牌子的那就稳定多啦

如何决策一个节点的选择呢？（如何确定一个分裂是最好的）

特征挑选方法（信息增益法）

选择具有最高信息增益的特征作为测试特征，利用该特征对节点样本进行划分子集，会使得各子集中不同类别样本的混合程度最低，在各子集中对样本划分所需的信息（熵）最少，形象的见下图：

（注意，信息增益既可以用熵也可以用GINI系数来计算）

连续值怎么办？

第二步：决策树的生成（基础版）

从根节点出发，根节点包括所有的训练样本。
一个节点（包括根节点），若节点内所有样本均属于同一类别，那么将该节点就成为叶节点，并将该节点标记为 样本个数最多的类别 。
否则利用采用信息增益法来选择用于对样本进行划分的特征，该特征即为测试特征，特征的每一个值都对应着从该节点产生的一个分支及被划分的一个子集。 在决策树中，所有的特征均为符号值，即离散值。如果某个特征的值为连续值，那么需要先将其离散化。
递归上述划分子集及产生叶节点的过程，这样每一个子集都会产生一个决策（子）树，直到所有节点变成叶节点。
递归操作的停止条件就是：
（1）一个节点中所有的样本均为同一类别，那么产生叶节点
（2）没有特征可以用来对该节点样本进行划分，这里用attribute_list=null为表示。此时也强制产生叶节点，该节点的类别为样本个数最多的类别
（3）没有样本能满足剩余特征的取值，即test_attribute= 对应的样本为空。此时也强制产生叶节点，该节点的类别为样本个数最多的类别

第三步：决策树剪枝

由于噪声等因素的影响，会使得样本某些特征的取值与样本自身的类别不相匹配的情况，基于这些数据生成的决策树的某些枝叶会产生一些错误；尤其是在决策树靠近枝叶的末端，由于样本变少，这种无关因素的干扰就会突显出来；由此产生的决策树可能存在过拟合的现象。树枝修剪就是通过统计学的方法删除不可靠的分支，使得整个决策树的分类速度和分类精度得到提高。

为什么要剪枝：决策树过拟合风险很大，理论上可以完全分得开数据

（想象一下，如果树足够庞大，每个叶子节点不就一个数据了嘛）

2. 剪枝策略：预剪枝，后剪枝

树枝修剪包括预剪枝和后剪枝两种方法：
（1）预剪枝：边建立决策树边进行剪枝的操作（更实用）

在决策树生成分支的过程，除了要进行 基础规则的判断 外，还需要 利用统计学的方法对即将分支的节点进行判断 ，比如统计χ2或统计信息增益，如果分支后使得子集的样本统计特性不满足规定的阈值，则停止分支；但是阈值如何选取才合理是比较困难的。

（2）后剪枝：当建立完决策树后来进行剪枝操作

在决策树充分生长后，修剪掉多余的分支。根据每个分支的分类错误率及每个分支的权重，计算该节点不修剪时预期分类错误率；对于每个非叶节点，计算该节点被修剪后的分类错误率，如果修剪后分类错误率变大，即放弃修剪；否则将该节点强制为叶节点，并标记类别。产生一系列修剪过的决策树候选之后， 利用测试数据（未参与建模的数据）对各候选决策树的分类准确性进行评价，保留分类错误率最小的决策树。

三、决策树的三种常用算法

为什么同一种决策树，能有三种呢，很自然就能想到，是不是前面的算法，有些缺陷，后面在对这些缺陷做了改进，提出的一种新的算法呢。

1）决策树之ID3算法/基本决策树

ID3算法是最早提出的一种决策树算法，ID3算法的核心是在决策树各个节点上应用信息增益准则来选择特征，递归的构建决策树。 具体方法是：从根节点开始，对节点计算所有可能的特征的信息增益，选择信息增益最大的特征作为节点的特征，由该特征的不同取值建立子节点：再对子节点递归的调用以上方法，构建决策树：直到所有的特征信息增益均很小或没有特征可以选择为止。

从上图中，我们可以看出，选择ID作为特征，信息增益最大，可是从业务的角度的看，这个特征意义不大，每个ID必然只对应一个类别。故信息增益的问题的就从这里引发出来，它的缺点就是偏向选择取值较多的属性，这种算法本身有一种倾向性，故有改进的地方，自然而然的引出下一个算法 C4.5 算法。

在讲述 C4.5 算法之前，我们先看看信息增益率的概念。

信息增益率（比）：信息增益除以该属性本身的熵

此方法避免了ID3算法中的归纳偏置问题，因为ID3算法会偏向于选择类别较多的属性（形成分支较多会导致信息增益大）

2）决策树之 C4.5 算法

C4.5 算法与ID3算法决策树的生成 过程相似， C4.5 算法对ID3算法 进行了改进。它是用信息增益率（比）来选择特征。

这里的改进主要是针对 样本特征 来作。
（1）基本决策树要求特征A取值为离散值，如果A是连续值，假如A有v个取值，则对特征A的测试可以看成是对v-1个可能条件的测试，其实可以把这个过程看成是离散化的过程，只不过这种离散的值间隙会相对小一点；当然也可以 采用其他方法，比如将连续值按段进行划分，然后设置亚变量 ；
（2）特征A的每个取值都会产生一个分支，有的时候会导致划分出来的子集样本量过小，统计特征不充分而停止继续分支，这样在强制标记类别的时候也会带来局部的错误。针对这种情况可以采用A的一组取值作为分支条件；或者采用二元决策树，每一个分支代表一个特征取值的情况（只有是否两种取值)。
（3）某些样本在特征A上值缺失，针对这种 空值的情况 ，可以采用很多方法，比如用 其他样本中特征A出现最多的值来填补空缺，比如采用均值、中值等 ，甚至在某些领域的数据中可以采用样本内部的平滑来补值，当样本量很大的时候也可以丢弃这些有缺失值的样本。
（4）随着数据集的不断减小，子集的样本量会越来越小，所构造出的决策树就可能出现碎片、重复、复制等总是。这时可以利用样本的原有特征构造新的特征进行建模；
（5）信息增益法会倾向于选择取值比较多的特征（这是信息熵的定义决定了的），针对这一问题，人们提出了增益比率法（gain ratio），将每个特征取值的概率考虑在内，及gini索引法，χ2χ2条件统计表法和G统计法等。

3）决策树之 ——CART 算法（classification and regression tree）

既可以做分类，也可以做回归。 只能形成二叉树 。

分支条件： 二分类问题

分支方法： 对于 连续特征的情况：比较阈值 ，高于某个阈值就属于某一类，低于某个阈值属于另一类。对于 离散特征：抽取子特征 ，比如颜值这个特征，有帅、丑、中等三个水平，可以先分为帅和不帅的， 不帅的里面再分成丑和中等 的。

得分函数（y ）：就是上面提到的gt(x)，对于分类树取得是分类最多的那个结果（也即众数），对于回归树取得是均值。

损失函数：其实这里的损失函数，就是分类的准则，也就是求最优化的准则

对于 分类树 （目标变量为离散变量）： 同一层 所有分支假设函数的 基尼系数的平均 。

对于 回归树 （目标变量为连续变量）： 同一层 所有分支假设函数的平方差损失

分裂准则：

对于分类树（目标变量为离散变量） ：使用基尼系数作为分裂规则。比较分裂前的gini和分裂后的gini减少多少，减少的越多，则选取该分裂规则

对于回归树（目标变量为连续变量）： 使用最小方差作为分裂规则。 只能生成二叉树 。

CART分类树算法对于连续特征和离散特征处理的改进

对于CART分类树连续值的处理问题，其思想和C4.5是相同的，都是将 连续的特征离散化 。 唯一的区别在于在选择划分点时的度量方式不同，C4.5使用的是信息增益比，则CART分类树使用的是基尼系数 。

具体的思路如下，比如m个样本的连续特征A有m个，从小到大排列为a1,a2,...,ama1,a2,...,am,则 CART算法取相邻两样本值的平均数，一共取得m-1个划分点 ，其中第i个划分点 $T_{i}$ 表示为： $T_{i}=\frac{a_{i}+a_{i+1}}{2}$ 。对于这m-1个点，分别计算以该点作为二元分类点时的基尼系数。选择基尼系数最小的点作为该连续特征的二元离散分类点。比如取到的基尼系数最小的点为 $a_{t}$ ,则小于 $a_{t}$ 的值为类别1，大于 $a_{t}$ 的值为类别2，这样我们就做到了连续特征的离散化。要注意的是，与ID3或者C4.5处理离散属性不同的是，如果当前节点为连续属性，则该属性后面还可以参与子节点的产生选择过程。

对于CART分类树离散值的处理问题，采用的思路是不停的二分离散特征。

回忆下ID3或者C4.5，如果某个特征A被选取建立决策树节点，如果它有A1,A2,A3三种类别，我们会在决策树上一下建立一个 三叉的节点,这样导致决策树是多叉树 。但是 CART分类树 使用的方法不同，他 采用的是不停的二分 ，还是这个例子，CART分类树会考虑把A分成{A1}和{A2,A3}{A1}和{A2,A3}, {A2}和{A1,A3}{A2}和{A1,A3}, {A3}和{A1,A2}{A3}和{A1,A2}三种情况，找到基尼系数最小的组合，比如{A2}和{A1,A3}{A2}和{A1,A3},然后建立二叉树节点，一个节点是A2对应的样本，另一个节点是{A1,A3}对应的节点。同时，由于这次没有把特征A的取值完全分开，后面我们还有机会在子节点继续选择到特征A来划分A1和A3。这和ID3或者C4.5不同，在ID3或者C4.5的一棵子树中，离散特征只会参与一次节点的建立。

CART分类树建立算法的具体流程

上面介绍了CART算法的一些和C4.5不同之处，下面我们看看CART分类树建立算法的具体流程，之所以加上了建立，是因为 CART树算法还有独立的剪枝算法 这一块。

算法输入是训练集D，基尼系数的阈值，样本个数阈值。

输出是决策树T。

我们的算法从根节点开始，用训练集递归的建立CART树。

1) 对于当前节点的数据集为D，如果样本个数小于阈值或者没有特征，则返回决策子树，当前节点停止递归。

2) 计算样本集D的基尼系数，如果基尼系数小于阈值，则返回决策树子树，当前节点停止递归。

3) 计算当前节点现有的各个特征的各个特征值对数据集D的基尼系数，对于离散值和连续值的处理方法和基尼系数的计算见第二节。缺失值的处理方法和上篇的C4.5算法里描述的相同。

4) 在计算出来的各个特征的各个特征值对数据集D的基尼系数中，选择基尼系数最小的特征A和对应的特征值a。根据这个最优特征和最优特征值，把数据集划分成两部分D1和D2，同时建立当前节点的左右节点，做节点的数据集D为D1，右节点的数据集D为D2。(注：注意是二叉树，故这里的D1和D2是有集合关系的，D2=D-D1)

5) 对左右的子节点递归的调用1-4步，生成决策树。

2. CART回归树建立算法

CART回归树和CART分类树的建立算法大部分是类似的，所以这里我们只讨论CART回归树和CART分类树的建立算法不同的地方。

首先，我们要明白，什么是回归树，什么是分类树。 两者的区别在于样本输出 ，如果样本 输出是离散值，那么这是一颗分类树。如果果样本输出是连续值，那么那么这是一颗回归树 。

除了概念的不同，CART回归树和CART分类树的建立和预测的区别主要有下面两点：

1)连续值的处理方法不同

2)决策树建立后做预测的方式不同。

对于连续值的处理，我们知道CART分类树采用的是用基尼系数的大小来度量特征的各个划分点的优劣情况。这比较适合分类模型，但是对于 回归模型，我们使用了常见的和方差的度量方式 ，CART回归树的度量目标是，对于任意划分特征A， 对应的任意划分点s两边划分成的数据集D1和D2 ，求出 使D1和D2各自集合的均方差最小，同时D1和D2的均方差之和最小 所对应的特征和特征值划分点。表达式为：

其中，c1为D1数据集的样本 输出均值 ，c2为D2数据集的样本输出均值。

对于决策树建立后做预测的方式，上面讲到了CART分类树采用叶子节点里概率最大的类别作为当前节点的预测类别。而回归树输出不是类别，它采用的是用 最终叶子的均值或者中位数来预测输出结果 。

3. CART树算法的剪枝

CART回归树和CART分类树的剪枝策略除了在度量损失的时候 一个使用均方差，一个使用基尼系数 ，算法基本完全一样，这里我们一起来讲。

由于决策时算法很容易对训练集过拟合，而导致泛化能力差，为了解决这个问题，我们需要对 CART树进行剪枝，即类似于线性回归的正则化 ， 来增加决策树的泛化能力 。但是，有很多的剪枝方法，我们应该这么选择呢？ CART采用的办法是后剪枝法，即先生成决策树，然后产生所有可能的剪枝后的CART树，然后使用交叉验证来检验各种剪枝的效果，选择泛化能力最好的剪枝策略。

也就是说，CART树的剪枝算法可以概括为两步， 第一步是从原始决策树生成各种剪枝效果的决策树 ， 第二部是用交叉验证来检验剪枝后的预测能力，选择泛化预测能力最好的 剪枝后的数作为最终的CART树。

首先我们看看剪枝的损失函数度量，在剪枝的过程中，对于任意的一刻子树T,其损失函数为：

其中，α为正则化参数，这和线性回归的正则化一样。C( $T_{t}$ )为训练数据的预测误差，分类树是用基尼系数度量，回归树是均方差度量。| $T_{t}$ |是子树T的 叶子节点的数量 。

当α=0时，即没有正则化，原始的生成的CART树即为最优子树。当α=∞时，即正则化强度达到最大，此时由原始的生成的CART树的根节点组成的单节点树为最优子树。当然，这是两种极端情况。一般来说，α越大，则剪枝剪的越厉害，生成的最优子树相比原生决策树就越偏小。对于固定的α，一定存在使损失函数Cα(T)最小的唯一子树。

看过剪枝的损失函数度量后，我们再来看看剪枝的思路，对于位于节点t的任意一颗子树Tt，如果没有剪枝，它的损失是

如果将其剪掉，仅仅保留根节点，则损失是

当α=0或者α很小时，Cα(Tt)<Cα(T) , 当α增大到一定的程度时

当α继续增大时不等式反向，也就是说，如果满足下式：

Tt和T有相同的损失函数，但是T节点更少，因此可以对子树Tt进行剪枝，也就是将它的子节点全部剪掉，变为一个叶子节点T。

最后我们看看CART树的交叉验证策略。上面我们讲到，可以计算出每个子树是否剪枝的阈值α，如果我们把所有的节点是否剪枝的值α都计算出来，然后分别针对不同的α所对应的剪枝后的最优子树做交叉验证。这样就可以选择一个最好的α，有了这个α，我们就可以用对应的最优子树作为最终结果。

CART树的剪枝算法:

输入是CART树建立算法得到的原始决策树T。

输出是最优决策子树Tα。

算法过程如下：

1）初始化 $\alpha _{min}$ =∞，最优子树集合ω={T}。

2）从叶子节点开始 自下而上计算 各内部节点t的训练误差损失函数Cα(Tt)（回归树为均方差，分类树为基尼系数）, 叶子节点数|Tt|，以及正则化阈值

更新 $\alpha _{min}$ =α

3) 得到所有节点的α值的集合M。

4）从M中选择最大的值αk，自上而下的访问子树t的内部节点，如果

时，进行剪枝。并决定叶节点t的值。如果是分类树，则是概率最高的类别，如果是回归树，则是所有样本输出的均值。这样得到αk对应的最优子树Tk

5）最优子树集合ω=ω∪Tk， M=M−{αk}。

6) 如果M不为空，则回到步骤4。否则就已经得到了所有的可选最优子树集合ωω.

7) 采用交叉验证在ωω选择最优子树Tα

经典的几个决策树算法：

下表给出了ID3，C4.5和CART的一个比较总结。

算法	支持模型	树结构	特征选择	连续值处理	缺失值处理	剪枝
ID3	分类	多叉树	信息增益	不支持	不支持	不支持
C4.5	分类	多叉树	信息增益比	支持	支持	支持
CART	分类，回归	二叉树	基尼系数，均方差	支持	支持	支持

看起来CART算法高大上，那么CART算法还有没有什么缺点呢？有！主要的缺点如下：

1）应该大家有注意到，无论是ID3, C4.5还是CART,在做特征选择的时候都是选择最优的一个特征来做分类决策，但是大多数， 分类决策不应该是由某一个特征决定的，而是应该由一组特征决定的 。这样决策得到的决策树更加准确。 这个决策树叫做多变量决策树(multi-variate decision tree) 。在选择最优特征的时候， 多变量决策树不是选择某一个最优特征，而是选择最优的一个特征线性组合来做决策 。这个算法的代表是OC1，这里不多介绍。

2）如果样本发生一点点的改动，就会导致树结构的剧烈改变。这个可以通过集成学习里面的随机森林之类的方法解决。

四、决策树算法的参数

官网参数如下：

class sklearn.tree. DecisionTreeClassifier ( criterion='gini' , splitter='best' , max_depth=None , min_samples_split=2 , min_samples_leaf=1 , min_weight_fraction_leaf=0.0 , max_features=None , random_state=None , max_leaf_nodes=None , min_impurity_decrease=0.0 , min_impurity_split=None , class_weight=None , presort=False )

树模型参数:

- 1.criterion： gini or entropy

- 2.splitter： best or random 前者是在所有特征中找最好的切分点后者是在部分特征中（数据量大的时候）

- 3.max_features： None（所有），log2，sqrt，N 特征小于50的时候一般使用所有的

- 4.max_depth：数据少或者特征少的时候可以不管这个值，如果模型样本量多，特征也多的情况下，可以尝试限制下 （预剪枝）

- 5.min_samples_split：如果某 节点的样本数 少于min_samples_split，则不会继续再尝试选择最优特征来进行划分如果样本量不大，不需要管这个值。如果样本量数量级非常大，则推荐增大这个值。 （预剪枝）

- 6.min_samples_leaf：这个值限制了 叶子节点最少 的样本数，如果某叶子节点数目小于样本数，则会和兄弟节点一起被剪枝，如果样本量不大，不需要管这个值，大些如10W可是尝试下5 （预剪枝）

- 7.min_weight_fraction_leaf：这个值限制了叶子节点所有样本权重和的最小值，如果小于这个值，则会和兄弟节点一起被剪枝默认是0，就是不考虑权重问题。一般来说，如果我们有较多样本有缺失值，或者分类树样本的分布类别偏差很大，就会引入样本权重，这时我们就要注意这个值了。

- 8.max_leaf_nodes 通过限制 最大叶子节点数 ，可以防止过拟合，默认是"None”，即不限制最大的叶子节点数。如果加了限制，算法会建立在最大叶子节点数内最优的决策树。如果特征不多，可以不考虑这个值，但是如果特征分成多的话，可以加以限制具体的值可以通过交叉验证得到。 （预剪枝）

- 9.class_weight：指定样本各类别的的权重，主要是为了防止训练集某些类别的样本过多导致训练的决策树过于偏向这些类别。这里可以自己指定各个样本的权重如果使用“balanced”，则算法会自己计算权重，样本量少的类别所对应的样本权重会高。

- 10. min_impurity_split ：这个值限制了决策树的增长，如果某节点的不纯度(基尼系数，信息增益，均方差，绝对差)小于这个阈值则该节点不再生成子节点。即为叶子节点。 （预剪枝）
- n_estimators:要建立树的个数

决策树模型的属性：

Attributes:

Attributes:	classes_ : array of shape = [n_classes] or a list of such arrays The classes labels (single output problem), or a list of arrays of class labels (multi-output problem). feature_importances_ : array of shape = [n_features] The feature importances. The higher, the more important the feature. The importance of a feature is computed as the (normalized) total reduction of the criterion brought by that feature. It is also known as the Gini importance [R251] . max_features_ : int, The inferred value of max_features. n_classes_ : int or list The number of classes (for single output problems), or a list containing the number of classes for each output (for multi-output problems). n_features_ : int The number of features when `fit` is performed. n_outputs_ : int The number of outputs when `fit` is performed. tree_ : Tree object The underlying Tree object. 五、决策树总结终于到了最后的总结阶段了，这里我们不再纠结于ID3, C4.5和 CART，我们来看看决策树算法作为一个大类别的分类回归算法的优缺点。这部分总结于scikit-learn的英文文档。首先我们看看决策树算法的优点： 1）简单直观，生成的决策树很直观。 2）基本不需要预处理，不需要提前归一化，处理缺失值。 3）使用决策树预测的代价是O(log2m)。 m为样本数。 4）既可以处理离散值也可以处理连续值。很多算法只是专注于离散值或者连续值。 5）可以处理多维度输出的分类问题。 6）相比于神经网络之类的黑盒分类模型，决策树在逻辑上可以得到很好的解释 7）可以交叉验证的剪枝来选择模型，从而提高泛化能力。 8）对于异常点的容错能力好，健壮性高。我们再看看决策树算法的缺点 :： 1）决策树算法非常容易过拟合，导致泛化能力不强。可以通过设置节点最少样本数量和限制决策树深度来改进。 2）决策树会因为样本发生一点点的改动（特别是在节点的末梢），导致树结构的剧烈改变。这个可以通过集成学习之类的方法解决。 3）寻找最优的决策树是一个NP难的问题，我们一般是通过启发式方法，容易陷入局部最优。可以通过集成学习之类的方法来改善。 4）有些比较复杂的关系，决策树很难学习，比如异或。这个就没有办法了，一般这种关系可以换神经网络分类方法来解决。 5）如果某些特征的样本比例过大，生成决策树容易偏向于这些特征。这个可以通过调节样本权重来改善。参考资料: https://www.cnblogs.com/fionacai/p/5894142.html https://www.cnblogs.com/pinard/p/6053344.html https://www.cnblogs.com/fionacai/p/5894142.html 前言：首先，在了解树模型之前，自然想到树模型和线性模型有什么区别呢？其中最重要的是，树形模型是一个一个特征进行处理，之前线性模型是所有特征给予权重相加得到一个新的值。决策树与逻辑回归的分类区别也在于此，逻辑回归是将所有特征变换为概率后，通过大于某一概率阈值的划分为一类，小于某一概率阈值的为另一类；而决策树是对每一个特征做一个划分。另外逻辑回归只能找到线性分割（输入特征x与logit之间是线性的，除... 现有的多变量决策树在分类准确性与树结构复杂性两方面优于单变量决策树，但其训练时间却高于单变量决策树，使得现有的多变量决策树不适用于快速响应的分类任务。针对现有多变量决策树训练时间高的问题，提出了基于信息熵和几何轮廓相似度的多变量决策树（IEMDT）。该算法利用几何轮廓相似度函数的一对一映射特性，将n维空间样本点投影到一维空间的数轴上，进而形成有序的投影点集合；然后通过类别边界和信息增益计算最优分割点集，将有序投影点集合划分为多个子集；接着分别对每个子集继续投影分割，最终生成决策树。在八个数据集上的实验结果表明，IEMDT具有较低的训练时间，并且具有较高的分类准确性。 1.2 决策树定义决策树 ( Decision Tree) 又称为判定树，是数据挖掘技术中的一-种重要的分类与回归方法，它是一-种以树结构(包括二叉树和多叉树)形式来表达的预测分析模型。决策树 (Decision Tree) 是有监督学习的一种算法。决策树有两种:分类树和回归树。 1.3 决策树发展第一个决策树算法 : CLS (Concept Learning System) 使决策树受到关注、成为机器学习主流技术的算法 : I... C:\Program Files (x86)\Graphviz2.38\bin C:\Program Files (x86)\Graphviz2.38 #确认graphviz是安装在上面路径当中。 4，python中使用方法： from sklearn.externals.six import StringIO import public static boolean isValidTimestamp(long timestamp) { long currentTimestamp = System.currentTimeMillis() / 1000; return timestamp <= currentTimestamp + 60 && timestamp >= currentTimestamp - 3600; 该方法将当前时间戳作为基准，判断传入的时间戳是否在当前时间戳的前1小时至后1分钟之间，若是则认为合法。

classes_ : array of shape = [n_classes] or a list of such arrays

The classes labels (single output problem), or a list of arrays of class labels (multi-output problem).

feature_importances_ : array of shape = [n_features]

The feature importances. The higher, the more important the feature. The importance of a feature is computed as the (normalized) total reduction of the criterion brought by that feature. It is also known as the Gini importance [R251] .

max_features_ : int,

The inferred value of max_features.

n_classes_ : int or list

The number of classes (for single output problems), or a list containing the number of classes for each output (for multi-output problems).

n_features_ : int

The number of features when fit is performed.

n_outputs_ : int

The number of outputs when fit is performed.

tree_ : Tree object

The underlying Tree object.

五、决策树总结

终于到了最后的总结阶段了，这里我们不再纠结于ID3, C4.5和 CART，我们来看看决策树算法作为一个大类别的分类回归算法的优缺点。这部分总结于scikit-learn的英文文档。

首先我们看看决策树算法的优点：

1） 简单直观 ，生成的决策树很直观。

2）基本不需要预处理， 不需要提前归一化，处理缺失值 。

3）使用决策树预测的代价是O(log2m)。 m为样本数。

4）既可以处理离散值也可以处理连续值。很多算法只是专注于离散值或者连续值。

5）可以处理多维度输出的分类问题。

6） 相比于神经网络之类的黑盒分类模型，决策树在逻辑上可以得到很好的解释

7）可以交叉验证的剪枝来选择模型，从而提高泛化能力。

8）对于异常点的容错能力好，健壮性高。

我们再看看决策树算法的缺点 :：

1）决策树算法 非常容易过拟合 ，导致泛化能力不强。可以通过设置节点最少样本数量和限制决策树深度来改进。

2）决策树会因为样本发生一点点的改动（特别是在节点的末梢），导致树结构的剧烈改变。这个可以通过集成学习之类的方法解决。

3）寻找最优的决策树是一个NP难的问题，我们一般是通过启发式方法，容易陷入局部最优。可以通过集成学习之类的方法来改善。

4）有些 比较复杂的关系，决策树很难学习 ，比如异或。这个就没有办法了， 一般这种关系可以换神经网络 分类方法来解决。

5）如果某些特征的样本比例过大，生成决策树容易偏向于这些特征。这个可以通过调节样本权重来改善。

参考资料:

https://www.cnblogs.com/fionacai/p/5894142.html

https://www.cnblogs.com/pinard/p/6053344.html

https://www.cnblogs.com/fionacai/p/5894142.html

前言：首先，在了解树模型之前，自然想到树模型和线性模型有什么区别呢？其中最重要的是，树形模型是一个一个特征进行处理，之前线性模型是所有特征给予权重相加得到一个新的值。决策树与逻辑回归的分类区别也在于此，逻辑回归是将所有特征变换为概率后，通过大于某一概率阈值的划分为一类，小于某一概率阈值的为另一类；而决策树是对每一个特征做一个划分。另外逻辑回归只能找到线性分割（输入特征x与logit之间是线性的，除...

现有的多变量 决策树 在分类准确性与树结构复杂性两方面优于单变量 决策树 ，但其训练时间却高于单变量 决策树 ，使得现有的多变量 决策树 不适用于快速响应的分类任务。针对现有多变量 决策树 训练时间高的问题，提出了基于信息熵和几何轮廓相似度的多变量 决策树 （IEMDT）。该算法利用几何轮廓相似度函数的一对一映射特性，将n维空间样本点投影到一维空间的数轴上，进而形成有序的投影点集合；然后通过类别边界和信息增益计算最优分割点集，将有序投影点集合划分为多个子集；接着分别对每个子集继续投影分割，最终生成 决策树 。在八个数据集上的实验结果表明，IEMDT具有较低的训练时间，并且具有较高的分类准确性。

1.2 决策树 定义 决策树 ( Decision Tree) 又称为判定树，是数据挖掘技术中的一-种重要的分类与回归方法，它是一-种以树结构(包括二叉树和多叉树)形式来表达的预测分析模型。 决策树 (Decision Tree) 是有监督学习的一种算法。 决策树 有两种:分类树和回归树。 1.3 决策树 发展第一个 决策树 算法 : CLS (Concept Learning System) 使 决策树 受到关注、成为机器学习主流技术的算法 : I... C:\Program Files (x86)\Graphviz2.38\bin C:\Program Files (x86)\Graphviz2.38 #确认graphviz是安装在上面路径当中。 4，python中使用方法： from sklearn.externals.six import StringIO import public static boolean isValidTimestamp(long timestamp) { long currentTimestamp = System.currentTimeMillis() / 1000; return timestamp <= currentTimestamp + 60 && timestamp >= currentTimestamp - 3600; 该方法将当前时间戳作为基准，判断传入的时间戳是否在当前时间戳的前1小时至后1分钟之间，若是则认为合法。

一、什么是 决策树

二、决策树的学习过程

三、决策树的三种常用算法

1）决策树之ID3算法/基本决策树

2）决策树之 C4.5 算法

3）决策树之 ——CART 算法（classification and regression tree）

四、决策树算法的参数

五、决策树总结

一、什么是决策树