决策树模型的解读

决策树模型的解读

一、决策树基本概念

决策树是一种基于树的模型，用于分类、回归和异常检测等任务。决策树使用树状结构来表示基于特征的决策过程，每个内部节点表示一个特征判断，每个分支代表一个可能的特征值，每个叶子节点表示一个类别的输出。决策树的核心思想是将问题分解为更小的子问题，直到可以轻易地做出决策。

二、特征选择

特征选择是决策树构建中的关键步骤，它决定了模型的表现和解释性。特征选择的目标是找到最优特征子集，使得基于该特征子集的划分能够最大化分类性能。常用的特征选择方法有：信息增益、增益率、基尼指数等。

三、树的建立

决策树的建立过程可以分为以下步骤：

1. 确定根节点，通常选择训练集中最常用的类作为根节点； 2. 计算每个特征的信息增益或基尼指数等指标，选择最优特征进行划分；

3. 对划分出的每个子集递归地执行步骤2，直到满足终止条件（如子集中的样本都属于同一类别，或子集中的样本数小于预设阈值等）。

四、树的剪枝

决策树的剪枝是为了解决过拟合问题，通过移除部分分支来简化决策树的结构，提高泛化能力。剪枝可以分为预剪枝和后剪枝两种方式。预剪枝是在构建决策树的过程中提前停止树的生长，后剪枝则是在构建完整的决策树后对其进行简化。

五、决策树的评估

评估决策树性能的常用指标包括准确率、精度、召回率和F1分数等。此外，我们也可以使用交叉验证的方式来评估决策树的性能，以得到更加稳健的评价结果。

六、决策树的优缺点

优点：

1. 可解释性强：决策树的结果易于理解，可以清晰地揭示出各个特征对结果的影响。

2. 对噪声数据具有较好的鲁棒性：在某些情况下，即使数据集中存在噪声或异常值，决策树也能够取得较好的分类效果。

3. 对连续特征和缺失值具有良好的处理能力：决策树可以很好地处理连续特征和缺失值问题。

缺点：

1. 容易过拟合：如果不对决策树进行适当的剪枝，很容易出现过拟合问题。

2. 对参数敏感：决策树的性能对参数选择非常敏感，例如决策树的深度、叶子节点最小样本数等参数的设置会对结果产生重大影响。

-1- 昆明理工大学信息工程与自动化学院学生实验报告

（ 201 — 201 学年 第 1 学期 ）

课程名称：人工智能 开课实验室： 年 月 日

年级、专业、班 学号 姓名 成绩

实验项目名称 天气决策树 指导教师

教师评语

该同学是否了解实验原理： A.了解□ B.基本了解□ C.不了解□

该同学的实验能力： A.强 □ B.中等 □ C.差 □

该同学的实验是否达到要求： A.达到□ B.基本达到□ C.未达到□

实验报告是否规范： A.规范□ B.基本规范□ C.不规范□

实验过程是否详细记录： A.详细□ B.一般 □ C.没有 □

教师签名：

年 月 日

一、上机目的及内容

1.上机内容

根据下列给定的14个数据,运用Information Gain构造一个天气决策树。

例子编号 属 性 分类 天况 温度 湿度 风况

1 晴 热 大 无 N

2 晴 热 大 有 N

3 多云 热 大 无 P

4 雨 中 大 无 P

5 雨 冷 正常 无 P

6 雨 冷 正常 有 N

7 多云 冷 正常 有 P

8 晴 中 大 无 N

-2- 9 晴 冷 正常 无 P

10 雨 中 正常 无 P

11 晴 中 正常 有 P

12 多云 中 大 有 P

13 多云 热 正常 无 P

14 雨 中 大 有 N

2.上机目的

（1）学习用Information Gain构造决策树的方法；

（2）在给定的例子上，构造出正确的决策树；

（3）理解并掌握构造决策树的技术要点。

２００６年４月　

第２７卷第２期　基建优化　

ＯＰＴＩＭＩＺＡＴＩＯＮ　ＯＦ　ＣＡＰＩＴＡＬ　Ｏ０ＮＳＴＲＩ）Ｃ，Ｉ］【ＯＮ　Ａｐｒ．２００６　

Ｖｏ１．２７　Ｎｏ．２　

基于二叉树期权定价模型的房地产投资决策分析研究　

孙中民　

（杭州市滨江区农村多层住宅建设管理中心，杭州３１００５１）　

摘要：将实物期权理论引入房地产投资决策过程中，分析了传统ＤＣＦ法存在的缺陷和房地产投资的期权特性，建立了　

房地产投资项目的二又树期权定价模型，并对该模型在实际投资中进行了案例分析。　

关键词：房地产投资；ＮＰＶ；实物期权；二又树期权定价模型　

中图分类号：Ｆ２９３．３３　文献标识码：Ａ　文章编号：１０００—７７１７（２００６｝０２—００５８—０３　

Ｒｅｓｅａｒｃｈ　ｏｆ　ｔｈｅ　Ｉｎｖｅｓｔｍｅｎｔ　Ｄｅｃｉｓｉｏｎ　ｏｆ　Ｒｅａｌ　Ｅｓｔａｔｅ　Ｂａｓｅｄ　

ｏｎ　ｔｈｅ　Ｂｉｎｏｍｉａｌ　Ｔｒｅｅ　Ｏｐｔｉｏｎｓ　Ｍｏｄｅｌ　

ＳＵＮ　Ｚｈｏｎｇ．ｒａｉｎ　

（　ｅ　Ｃｏｎｓｔｒｕｃｔｉｏｎ　Ｍａｎａｇｅｍｅｎｔ　Ｃｅｎｔｅｒｆｏｒ　Ｃｏｕｎｔｒｙｓｉｄｅ　Ｍｕｌｔｉ—ｓ幻ｒ　Ｈｏｕｓｅｓ　

ｏｆＢｉｎｊｉａｎｇ　ｉｎ　Ｈａｎｚｈｏｕ　Ｇｔｙ，Ｈａｎｚｈｏｕ　３１００５１，Ｃｈｉｎａ）　

Ａｂｓｔｒａｃｔ：Ｔｈｉｓ　ｐａｐｅｒ　ｉｎｔｒｏｄｕｃｅｓ　ｔｈｅ　ｒｅａｌ　ｏｐｔｉｏｎｓ　ｔｈｅｏｒｙ　ｉｎｔｏ　ｔｈｅ　ｒｅａｌ　ｅｓｔａｔｅ　ｉｎｖｅｓｔｍｅｎｔ　ｄｅｃｉｓｉｏｎ—ｍａｋｉｎｇ，ａｎａｌｙｓｅｓ　ｔｈｅ　ｄｅｆｅｃｔｓ　ｏｆ　

ＤＣＦ　ｍｅｔｈｏｄ　ａｎｄ　ｔｈｅ　ｏｐｔｉｏｎｓ　ｆ￣ｔｕｒｅｓ　ｏｆ　ｒｅａｌ　ｅｓｔａｔｅ　ｉｎｖｅｓｔｍｅｎｔ．ａｎｄ　ｂｕｉｌｄｓ　ｕｐ　ｔｈｅ　ｂｉｎｏｍｉａｌ　ｔｒｅｅ　ｏｐｔｉｏｎｓ　ｍｏｄｅｌ　ｆｏｒ　ｒｅａｌ　ｅｓｔａｔｅ　ｉｎ—　

ｖｅｓｔｍｅｎｔ．Ｉｎ　ｔｈｅ　ｅｎｄ，ｔｈｅ　ｂｉｎｏｍｉａｌ　ｔｒｅｅ　ｏｐｔｉｏｎｓ　ｍｏｄｅｌ　ｉｓ　ａｎａｌｙｚｅｄ　ｂｙ　ｒｅａｌ　ｅｓｔａｔｅ　ｉｎｖｅｓｔｍｅｎｔ　ｃａｓｅ　ａｎａｌｙｓｉｓ　ｉｎ　ｔｈｉｓ　ｐａｐｅｒ．　

《机器学习（周志华）》笔记--决策树（1）--决策树模型、决策

树简史、基本流程

⼀、决策树模型

决策树(decision tree)是⼀种常⽤的机器学习⽅法，是⼀种描述对实例进⾏分类的树形结构。

决策树是⼀种常⽤的机器学习⽅法，以⼆分类为例，假设现在我们要对是否买西⽠进⾏判断和决策，我们会问⼀些问题，根据回答，我们决断是买还是不买，或者还拿补丁主意，这时会继续问问题，直到可以确定为⽌。

决策树基于“树”结构进⾏决策：

（1）内部结点：属性

（2）分⽀：属性值

（3）p叶结点：分类结果

学习过程：通过对训练样本的分析来确定“划分属性”（即内部结点所对应的属性）

预测过程：将测试⽰例从根结点开始，沿着划分属性所构成的“判定测试序列”下⾏，直到叶结点

学习的过程就是通过划分属性构建决策树的过程，预测过程就是将测试样本从根节点开始，沿着划分属性构成的“判定序列”下⾏，直到叶结点。

结构举例：

从代码⾓度来看，决策树其实可以看成是⼀堆if-else语句的集合，例如引例中的决策树完全可以看成是如下代码：

if isRed: if isCold: if hasSeed: print("buy") else: print("don't buy") else: if isCheap: print("buy") else: print("don't buy")else: print("don't buy")

由决策树的根结点(root node)到叶结点(leaf node)的每⼀条路径构建⼀条规则：路径上内部结点的特征对应着规则的条件，⽽叶结点的类对应着规则的结论。

决策树的路径或其对应的if-then规则集合具有⼀个重要的性质：互斥并且完备。这就是说，每⼀个实例都被⼀条路径或⼀条规则所覆盖，⽽且只被⼀条路径或⼀条规则所覆盖。从代码⾓度来看，决策树的判定过程⽐较简单。

⼆、决策树简史

（1）第⼀个决策树算法：CLS (Concept Learning System)