教你怎么看聚类分析的树状图

4.操作步骤
系统聚类 K-均值聚类
THANKS
感谢您的聆听！
聚类分析主要用于探索性研究，其分析结果可提供多个可能的解，最终解的选择需 要研究者的主观判断和后续分析
聚类分析的解完全依赖于研究者所选择的聚类变量，增加或删除一些变量对最终解 都可能产生实质性的影响
不管实际数据中是否存在不同的类别，利用聚类分析都能得到分成若干类别的解
聚类分析的概述
1.概念 2.分类 3.注意点
对样本进行分类称为Q型聚类分析 对指标进行分类称为R型聚类分析
聚类分析的概述
1.概念
2.分类
3.注意点 4.操作步骤
从数据挖掘的角度看，又可以大致分为四种：
划分聚类（代表是K-Means算法，也称K-均值聚类算法） 层次聚类 基于密度的聚类 基于网格的聚类
聚类分析的概述
1.概念
2.分类
3.注意点 4.操作步骤
聚类分析的概述
1.概念
2.分类 3.注意点 4.操作步骤
三个特征：
（1）适用于没有先验知识的分类。 （2）可以处理多个变量决定的分类。 （3）是一种探索性分析方法。
聚类分析的概述
1.概念
2.分类
3.注意点 4.操作步骤
从数据分析的角度看，它是对多个样本进行定量分析的多元统计分析方法，可以分为两种：
聚类分析的概述
1.概念
2.分类 3.注意点 4.操作步骤
两个距离概念 按照远近程度来聚类需要明确两个概念： ✓ 点和点念
2.分类 3.注意点 4.操作步骤
在商业上，其被用来发现不同的客户群，并且通过购买模式刻画不同的客户群的特征； 在生物上，其被用来动植物分类和对基因进行分类，获取对种群固有结构的认识； 在电子商务上，聚类分析在电子商务中网站建设数据挖掘中也是很重要的一个方面， 通过分组聚类出具有相似浏览行为的客户，并分析客户的共同特征，可以更好的帮助 电子商务的用户了解自己的客户，向客户提供更合适的服务； 在因特网应用上，聚类分析被用来在网上进行文档归类来修复信息。

决策树是一种常用于预测模型的算法，它通过将大量数据有目的的分 类，从中找到一些有价值的，潜在的信息。它的主要优点是描述简单，分 类速度快，特别适合大规模的数据处理
分割准则：
Gini指数变化 信息增益（熵） 上面两个准则是值越大，表示节点越 “不纯”，越小表示越“纯” （二者选一即可）
决策树应用于肿瘤基因表达谱的分类分析
分类分析
上述无监督的聚类分析可同时对样本和基因进行聚类。而有监督的分类分 析一般是单向的，即以基因为属性，构建分类模式对样本的类别进行预测。还 可以同时进行疾病相关基因的挖掘。 常用分类方法： • Fisher线性判别 • K近邻分类法（略） • PAM方法 • 决策树
Fisher线性判别
Fisher线性判别的思想是： 找到一个投影矩阵，通过这个投影矩阵将各类样本数据映射到一个新的空间， 使得投影后两类相隔尽可能远，而同一类内的样本尽可能聚集。
像上图所示的两种投影方案，左边的投影方向可以将两种样本区分开 来，而右边的投影方向不能区分开来，所以左边的投影方向更好。
PAM方法
又叫K-medoids（K-中心点）聚类，使K-means（K-均值）聚类的改进。 基本思想：每类样本的质心向所有样本的质心进行收缩。
基因2
基因1
K-均值聚类和K-中心点聚类区别： k-means的质心是各个样本点的平均，可能是样本点中不存在的点 k-medoids的质心一定是某个样本点的值 这个不同使他们具有不同的优缺点：
决策树优点： 不需要使用者了解很多背景知识（这同时也是它的最大缺点）， 概念 简单， 计算效率高 作为一种非参数分类方法，使用者不需要输入任何参数 分类的结果意义明确， 可解释性强
有关决策树的演变算法也很多

聚类分析的基本概念与方法聚类分析（Cluster Analysis）是一种将数据分组或分类的统计学方法，通过将相似的对象归为同一组，使得组内的对象之间更加相似，而不同组之间的对象则差异较大。

它是数据挖掘和机器学习领域中常用的技术之一，被广泛应用于市场分析、生物信息学、图像处理等领域。

一、聚类分析的基本概念聚类分析基于相似性的概念，即认为具有相似特征的对象更有可能属于同一类别。

在聚类分析中，每个对象都被视为一个数据点，而聚类则是将这些数据点分组。

基本概念包括以下几点：1. 数据点：数据集中的每个样本或对象都被看作是一个数据点，它具有多个特征或属性。

2. 相似性度量：聚类分析的关键是如何计算数据点之间的相似性或距离。

常用的相似性度量包括欧氏距离、曼哈顿距离、闵可夫斯基距离等。

3. 簇/类别：将相似的数据点归为一组，这个组被称为簇或类别。

簇内的数据点相似度较高，而不同簇之间的数据点相似度较低。

4. 聚类算法：聚类分析依赖于具体的算法来实现数据点的分组。

常见的聚类算法有K均值聚类、层次聚类、密度聚类等。

二、聚类分析的方法1. K均值聚类（K-means Clustering）：K均值聚类是一种迭代的聚类方法，它将数据点分成K个簇，每个簇代表一个样本集。

算法的基本思想是通过最小化簇内数据点与簇中心之间的平方误差来确定最优的簇中心位置。

2. 层次聚类（Hierarchical Clustering）：层次聚类是一种基于树状结构的聚类算法，它根据数据点之间的相似性逐步合并或分割簇。

层次聚类分为凝聚型和分裂型两种方法，其中凝聚型方法从单个数据点开始，逐步合并最相似的簇；分裂型方法从所有数据点开始，逐步分割最不相似的簇。

3. 密度聚类（Density-Based Clustering）：密度聚类基于密度可达的概念，将具有足够高密度的数据点归为一簇。

核心思想是在数据空间中通过密度连通性来确定簇的边界，相对于K均值聚类和层次聚类，密度聚类能够有效处理不规则形状和噪声数据。

例如，学校里有些同学经常在一起，关系比较
密切，而他们与另一些同学却很少来往，关系比较 疏远。究其原因可能会发现，经常在一起的同学的 家庭情况、性格、学习成绩、课余爱好等方面有许 多共同之处，而关系比较疏远的同学在这些方面有 较大的差异性。为了研究家庭情况、性格、学习成 绩、课余爱好等是否会成为划分学生小群体的主要 决定因素，可以从有关这些方面的数据入手，进行 客观分组，然后比较所得的分组是否与实际相吻合。 对学生的客观分组就可采用聚类分析方法。
最近邻元素（Nearest Neighbor）：个体与小类中每个 个体距离的最小值。 最远邻元素（Furthest Neighbor ）：个体与小类中每 个个体距离的最大值。 组间联接（Between-groups linkage）：个体与小类 中每个个体距离的平均值。 组内联接（Within-groups linkage）：个体与小类中 每个个体距离以及小类内各个体间距离的平均值。 质心聚类法（Centroid clustering）：个体与小类的重 心点的距离。重心点通常是由小类中所有样本在各变量上的 均值所确定的点。 离差平方和法（Ward’s method）：聚类过程中使小类 内离差平方和增加最小的两小类应首先合并为一类。
• 例：下表是同一批客户对经常光顾的五座商场在购物环境和
服务质量两方面的平均得分，现希望根据这批数据将五座商
场分类。
编号
购物环境 服务质量
A商场
73
68
B商场
66
64
C商场
84
82
D商场
91
88
E商场
94
90
7.1.2 聚类分析中“亲疏程度”的度量方法
• 聚类分析中，个体之间的“亲疏程度”是极为重要 的，它将直接影响最终的聚类结果。对“亲疏”程 度的测度一般有两个角度：第一，个体间的相似程 度；第二，个体间的差异程度。衡量个体间的相似 程度通常可采用简单相关系数等，个体间的差异程 度通常通过某种距离来测度。