当前位置：文档之家 › 实验4--系统聚类分析

实验4--系统聚类分析

  • 格式：doc
  • 大小：218.50 KB
  • 文档页数：8

实验4 系统聚类分析(Hierarchical cluster analysis)
实习环境要求：计算机及相关设备、SPSS统计软件
实习目的：熟练运用SPSS软件进行系统聚类分析
实习分组：每人一组，独立完成
实验内容：
聚类分析是直接比较各事物之间的性质，将性质相近的归为一类，将性质差别较大的归入不同的类。

聚类分析事先并不知道对象类别的面貌，甚至连共有几个类别也不确定。

一、数据准备
课本71页，表3.4.2
已经有该文件：表3.4.2某地区九个农业区的七项经济指标数据
二、菜单命令
如下：(Analyze>Classify>Hierarchical Cluster)
1、系统聚类分析主界面设置如图
选择要参加聚类的变量（Variable(s)）；选择对样品聚类（Cases默认）还是变量聚类(Variables)。

在样品聚类时，你还可以使用标签变量(Label Cases By:)来代替默认的记录号结果输出。

是否显示(Display)统计量（Statistics）和统计图(Plots)，默认都显示。

2、按Method…按钮，进行设置
2.1 Transform Values选择原始数据标准化方法
如需要变换，一般做标准正态变换。

本例课本选择了极差标准化（Range 0 to 1）。

其他选项含义：
None：不变换
Z scores ：标准正态变换，具体方法为
(?)：(X-mean)/s
Range –1 to 1 ：将数据范围转化为-1
至1之间，具体方法为(?)：
[X-min-(max-min)/2]/ [(max-min)/2]
Range 0 to 1 ：将数据范围转化为0 至1之间，具体方法为：（X-min）/(max-min)。

即：极差标准化。

Maximum magnitude of 1：极大值标准化。

做最大值为1的转换，具体方法为：X/max
Mean of 1：做均值为1的转换
Standard deviation of 1做标准差为1的转换
2.2 样本间距离的计算公式（Measure defines the formula for calculating distance.）
对不同的数据类型有不同的计
算公式，我们一般仅涉及间隔尺度数
据，不涉及分类变量的计数数据和二
元数据。

对于间隔尺度数据，有以下
距离公式可以选择：
Euclidean distance：欧氏距离
Squared Euclidean distance：欧氏距离的平方
Cosine ：夹角余弦
Pearson correlation ：简单相关系数
Chebychev ：切比雪夫距离
Block：绝对值距离
Minkowski ：明科夫斯基距离
Customized 自定义距离
本例选择了绝对值距离Block
2.3 类间距离的计算方法（Cluster method defines the rules for cluster formation.）
本例先采用了最短距离聚
类。

Between-groups linkage :
组间连结法，又称类平均法
（系统默认，比较稳健的方法，建议大家使用），两类之间的距离平方以各类元素两两之间的平均平方距离来表示
Within-groups linkage组内连接法；Nearest neighbor : 最近距离聚类Furthest neighbor：最远距离聚类；Centroid clustering：重心法
Median clustering：中位数距离
Ward’s method ：即离差平方和法，其统计思想是，如果类分得合理，则同类样品间的离差平方和应当最小，而类与类之间的离差平方和应当最大，按此原则考虑聚类步骤。

2.4 Transform Measure s：一般不用
Allow you to transform the values generated by the distance measure. They are applied after the distance measure has been computed. Available alternatives are absolute values, change sign, and rescale to 0-1 range.
3、按Plots…按钮，进行图表输出设置
Dendrogram : 输出分类结果聚类谱系图（选择）
Icicle ：输出分类结果
冰柱图（少用为妙）
4、按Statistics…按钮，进行统计输出选项设置
Agglomeration schedule: 相当于聚类过程的详细记录； Proximity matrix ： 输出距离或相似性矩阵；
Cluster Membership: 输出聚类结果列表（默认不给出） 5、按Save…按钮，保存聚类结果到变量：以变量形式存入数据集
一般，确定具体分几类后再保存分类结果。

本例，保存分3类的聚类结果。

三、结果解释
Proximity Matrix
.000 1.535 3.102 2.216 5.833 4.709 5.780 1.345 2.6331.535.000 2.688 1.472 6.037 4.448 5.520.871 1.6593.102 2.688.000 1.216 3.664 1.870 2.932 2.237 1.1922.216 1.472 1.216.000 4.787 2.993 4.055 1.297.4935.833 6.037 3.664 4.787.000 1.796.850 5.170 4.8564.709 4.448 1.870 2.993 1.796.000 1.071 3.962 3.0625.780 5.520 2.932 4.055.850 1.071.000 5.033 4.1241.345.871 2.237 1.297 5.170 3.962 5.033.000 1.4052.633
1.659
1.192
.493 4.856 3.062
4.124
1.405
.000
Case 1:G12:G23:G34:G45:G56:G67:G78:G89:G9
1:G12:G23:G34:G45:G56:G67:G7
8:G89:G9 City Block Distance This is a dissimilarity matrix
样本间距离矩阵：可以和P72矩阵对照。

Agglomeration Schedule
49.49300557.85000428.87100656 1.07120834 1.19201623 1.29735712 1.34506815
1.87074
Stage
12345678Cluster 1Cluster 2
Cluster Com bined Coefficients
Cluster 1Cluster 2
Stage Cluster First
Appears
Next Stage
聚类过程记录表：可以根据该表，手工绘制聚类谱系图。

如：第一步：G4、G9在类间距离=0.493时，合并为新类（不妨记作G10），新类在第五次合并中首先出现
第五步：G3、G4，d=1.192,合并，类3首次出现，类4在第一步已经出现（此处的类4代表G10）
依次，可以手工绘制聚类谱系图。

聚类谱系图：类间距离被变换至0~25的区间
clu3_1变量存储了分类结果。

G1单独为一类，G5、G6、G7为一类，其余为一类。

四、实验报告
利用例题的数据，验证最远距离聚类
1、最远距离聚类法，第一步 G4 和 G9 合并为一类，新类在第 4 次合并中首先出现。

2、请粘贴聚类过程记录表和聚类谱系图
（注：可编辑下载，若有不当之处，请指正，谢谢!）。

合集下载

聚类分析和判别分析实验报告

聚类分析和判别分析实验报告

聚类分析实验报告一、实验数据2013年，在国内外形势错综复杂的情况下，我国经济实现了平稳较快发展。

全年国内生产总值568845亿元，比上年增长7.7%。

其中第三产业增加值262204亿元，增长8.3%，其在国内生产总值中的占比达到了46.1%，首次超过第二产业。

经济的快速发展也带来了就业的持续增加，年末全国就业人员76977万人，其中城镇就业人员38240万人，全年城镇新增就业1310万人。

随着我国城镇化进程的不断加快，加之农业用地量的不断衰减，工业不断的转型升级，使得劳动力就业压力的缓解需要更多的依靠服务业的发展。

（一）指标选择根据指标选择的可行性、针对性、科学性等原则，分别从服务业的发展规模、发展结构、发展效益以及发展潜力等方面选择14个指标来衡量服务业的发展水平，指标体系如表1所示：表1 服务业发展水平指标体系（二）指标数据本次实验采用的数据是我国31个省（市、自治区）2012年的数据，原数据均来自《2013中国统计年鉴》以及2013年各省（市、自治区）统计年鉴，不能直接获得的指标数据是通过对相关原始数据的换算求得。

原始数据如表2所示：表2（续）二、实验步骤本次实验是在SPSS中分别利用系统聚类法和K均值法进行聚类分析，具体步骤如下：（一）系统聚类法⒈在SPSS窗口中选择Analyze—Classify—Hierachical Cluster,调出系统聚类分析主界面，将变量X1-X14移入Variables框中。

在Cluster栏中选择Cases单选按钮，即对样品进行聚类（若选择Variables，则对变量进行聚类）。

在Display栏中选择Statistics和Plots复选框，这样在结果输出窗口中可以同时得到聚类结果统计量和统计图。

⒉点击Statistics按钮，设置在结果输出窗口中给出的聚类分析统计量。

这里选择系统默认值，点击Continue按钮，返回主界面。

⒊点击Plots按钮，设置结果输出窗口中给出的聚类分析统计图。

聚类分析

聚类分析

聚类分析聚类分析又称群分析，它是研究（样品或指标）分类问题的一种多元统计方法，所谓类，通俗地说，就是指相似元素的集合。

聚类分析内容非常丰富，按照分类对象的不同可分为样品分类（Q-型聚类分析）和指标或变量分类（R-型聚类分析）；按照分类方法可分为系统聚类法和快速聚类法。

1. 系统聚类分析先将n 个样品各自看成一类，然后规定样品之间的“距离”和类与类之间的距离。

选择距离最近的两类合并成一个新类，计算新类和其它类（各当前类）的距离，再将距离最近的两类合并。

这样，每次合并减少一类，直至所有的样品都归成一类为止。

系统聚类法直观易懂。

1.1系统聚类法的基本步骤：第一，计算n 个样品两两间的距离 ，记作D= 。

第二，构造n 个类，每个类只包含一个样品。

第三，合并距离最近的两类为一新类。

第四，计算新类与各当前类的距离。

第五，重复步骤3、4，合并距离最近的两类为新类，直到所有的类并为一类为止。

第六，画聚类谱系图。

第七，确定类的个数和类。

1.2 系统聚类方法：1.2.1最短距离法1.2.2最长距离法1.2.3中间距离法1.2.4重心法1.2.5类平均法1.2.6离差平方和法（Ward 法）上述6种方法归类的基本步骤一致，只是类与类之间的距离有不同的定义。

最常用的就是最短距离法。

1.3 最短距离法以下用ij d 表示样品i X 与j X 之间距离，用ij D 表示类i G 与j G 之间的距离。

定义类i G 与j G 之间的距离为两类最近样品的距离，即ij G G G G ij d D j J i i ∈∈=,min设类p G 与q G 合并成一个新类记为r G ，则任一类k G 与r G 的距离是：ij G X G X kr d D j j i i ∈∈=,min ⎭⎬⎫⎩⎨⎧=∈∈∈∈ij G X G X ij G X G X d d q j k i p j k i ,,min ,min min {}kq kp D D ,min = 最短距离法聚类的步骤如下：ij d {}ij d（1）定义样品之间距离，计算样品两两距离，得一距离阵记为)0(D ，开始每个样品自成一类，显然这时ij ij d D =。

系统聚类分析

系统聚类分析

聚类分析聚类分析是研究“物以类聚”的一种多元统计方法。

国内有人称它为群分析、点群分析、簇群分析等。

聚类分析的基本概念聚类分析是研究对样品或指标进行分类的一种多元统计方法,是依据研究对象的个体的特征进行分类的方法。

它把分类对象按一定规则分成若干类，这些类非事先给定的，而是根据数据特征确定的。

在同一类中这些对象在某种意义上趋向于彼此相似，而在不同类中趋向于不相似。

它职能是建立一种能按照样品或变量的相似程度进行分类的方法。

聚类分析的基本思想是认为我们所研究的样本或指标（变量）之间存在着程度不同的相似性（亲疏关系）。

于是根据一批样本的多个观测指标，具体找出一些彼此之间相似程度较大的样本（或指标）聚合为一类，把另外一些彼此之间相似程度较大的样本（或指标）又聚合为另一类，关系密切的聚合到一个小的分类单位，关系疏远的聚合到一个大的分类单位，直到把所有样本（或指标）都聚合完毕，把不同的类型一一划分出来，形成一个由小到大的分类系统。

最后把整个分类系统画成一张谱系图，用它把所有样本（或指标）间的亲疏关系表示出来。

这种方法是最常用的、最基本的一种，称为系统聚类分析。

聚类分析有两种：一种是对样本的分类，称为Q型，另一种是对变量（指标）的分类，称为R型。

聚类分析给人们提供了丰富多彩的方法进行分类，这些方法大致可以归纳为：（1）系统聚类法。

首先将n个也样品看成n类（一个类包含一个样品），然后将性质最接近的两类合并成一个新类，我们得到n-1类，再从中找出最接近的两类加以合并成了n-2类，如此下去，最后所有的样品均在一类，将上述并类过程画成一张图（称为聚类图）便可决定分多少类，每类各有什么样品。

（2）模糊聚类法。

将模糊数学的思想观点用到聚类分析中产生的方法。

该方法多用于定型变量的分类。

（3）K—均值法。

K—均值法是一种非谱系聚类法，它是把样品聚集成k个类的集合。

类的个数k可以预先给定或者在聚类过程中确定。

该方法可用于比系统聚类法大得多的数据组。

系统聚类

系统聚类

Dp2q Sr (S p Sq ) 其中S p , Sq分别为 p类于q类的离差平方和, S r为 r 类的离差平方和 增量愈小，合并愈合理。
为了便于我们理解系统聚类法的方法和步骤，下面给出一个例子逐步进行说 明：
例：为了研究辽宁等 5 省 1991 年城镇居民生活消费情况的分布规律，根据调 查资料做类型分类，用最短距离法做类间分类。数据如下：
因此将 3、4 合并为一类，为类 6，替代了 3、4 两类 类 6 与剩余的 1、2、5 之间的距离分别为：
d(3,4)1=min(d31,d41)=min(13.80,13.12)=13.12 d(3,4)2=min(d32,d42)=min(24.63,24.06)=24.06 d(3,4)5=min(d35,d45)=min(3.51,2.21)=2.21 得到新矩阵
2、选择 D（0）表中最小的非零数，不妨假设 dpq ,于是将 Gp 和 Gq 合并为一
新类，记为 Gr GP ,Gq
3、利用递推公式计算新类与其它类之间的距离，产生 D（1）表。若类的个 数等于 1，转到下一步，否则回到前一步。类推直至所有的样本点归为一类为止。
4、画聚类图 5、决定类的个数 6、聚类结果的解释和证实 由于类与类之间的距离的计算方法不同，形成了不同的系统聚类方法。
吉林 黑龙江 天津 北京 上海 河南 福建 安徽 辽宁 青海 贵州 湖南 江西 广西 宁夏
6 -+-+
7 -+ +-----+
3 ---+ +---------------------------+
1 -+-------+
|
2 -+
+-----------+