聚类分析例题及解答

5.2酿酒葡萄的等级划分5.2.1葡萄酒的质量分类由问题1中我们得知，第二组评酒员的的评价结果更为可信，所以我们通过第二组评酒员对于酒的评分做出处理。

我们通过excel计算出每位评酒员对每支酒的总分，然后计算出每支酒的10个分数的平均值，作为总的对于这支酒的等级评价。

通过国际酿酒工会对于葡萄酒的分级，以百分制标准评级，总共评出了六个级别（见表5）。

在问题2的计算中，我们求出了各支酒的分数，考虑到所有分数在区间[61.6，81.5]波动，以原等级表分级，结果将会很模糊，不能分得比较清晰。

为此我们需要进一步细化等级。

为此我们重新细化出5个等级，为了方便计算，我们还对等级进行降序数字等级（见表6）。

通过对数据的预处理，我们得到了一个新的关于葡萄酒的分级表格（见表7）：考虑到葡萄酒的质量与酿酒葡萄间有比较之间的关系，我们将保留葡萄酒质量对于酿酒葡萄的影响，先单纯从酿酒葡萄的理化指标对酿酒葡萄进行分类，然后在通过葡萄酒质量对酿酒葡萄质量的优劣进一步进行划分。

5.2.2建立模型在通过酿酒葡萄的理化指标对酿酒葡萄分类的过程，我们用到了聚类分析方法中的ward 最小方差法，又叫做离差平方和法。

聚类分析是研究分类问题的一种多元统计方法。

所谓类，通俗地说，就是指相似元素的集合。

为了将样品进行分类，就需要研究样品之间关系。

这里的最小方差法的基本思想就是将一个样品看作P 维空间的一个点，并在空间的定义距离，距离较近的点归为一类；距离较远的点归为不同的类。

面对现在的问题，我们不知道元素的分类，连要分成几类都不知道。

现在我们将用SAS 系统里面的stepdisc 和cluster 过程完成判别分析和聚类分析，最终确定元素对象的分类问题。

建立数据阵，具体数学表示为：1111...............m n nm X X X X X ⎡⎤⎢⎥=⎢⎥⎢⎥⎣⎦（5.2.1） 式中，行向量1(,...,)i i im X x x =表示第i 个样品；列向量1(,...,)'j j nj X x x =’，表示第j 项指标。

聚类分析与判别分析的例题1、某超市经销十种品牌的饮料，其中有四种畅销，三种滞销，三种平销。

下表是这十种品牌饮料的销售价格（元）和顾客对各种饮料的口味评分、信任度评分的平均数。

（1）根据数据建立贝叶斯判别函数，并根据此判别函数对原样本进行回判。

（2)现有一新品牌的饮料再该超市试销，其销售价格为3.0，顾客对其口味的评分平均分为8，信任评分为5，试预测该饮料的销售情况。

2、银行的贷款部门需要判别每个客户的信用好坏（是否未履行还贷责任），以决定是否给予贷款。

可以根据贷款申请人的年龄、受教育程度、现从事工作的年龄、未变更住址的年数、收入，负债收入比例、信用卡债务、其他债务等来判断其信用情况。

下表是某银行的客户资料中抽取的部分数据，（1）根据样本资料分别用距离判别法、贝叶斯判别法和费系尔判别法建立判别函数和判别规则。

(2)某客户的如上情况资料为（53，1，9，18，50，11，20，2.02，3.58），对其进行信3、从胃癌患者、萎缩性胃炎患者和非胃炎患者中分别抽取五个病人进行思想生化指标的化验：血清铜蛋白、蓝色反应、尿吲哚乙酸和中性硫化物，数据见下表。

试用距离判别法建立判别函数，并根据此判4、为了了解儿童的生长发育规律，今随机抽取了男孩从出生到11岁每年平均增长的重量数据表，试问男孩发育可分为几个阶段？表1~11岁儿童每年平均增长的重量5、下表是15个上市公司2001年的一些主要财务指标，使用系统聚类法和K均值法分别对这些公司进行聚类，并对结果进行分析。

6、下表是某年我国16个地区农民支出情况的抽样调查数据，每个地区调查了反映每人平均生活消费支出情况的六个经济指标。

试通过统计分析软件用不同的方法进行系统聚类分析，并比较何种方法与人们观察到的实际情况较接近。

7、下表是2003年我国省会城市和计划单列市的主要经济指标：人均GDP元、人均工业产值元、客运总量万人、货运总量万人、地方财政预算内收入亿元、固定资产投资总额亿元、在岗职工人数占总人口的比例%、在岗职工人均工资额元、城乡居民年底储蓄余额亿元。

5.2酿酒葡萄的等级划分5.2.1葡萄酒的质量分类由问题1中我们得知，第二组评酒员的的评价结果更为可信，所以我们通过第二组评酒员对于酒的评分做出处理。

我们通过excel计算出每位评酒员对每支酒的总分，然后计算出每支酒的10个分数的平均值，作为总的对于这支酒的等级评价。

通过国际酿酒工会对于葡萄酒的分级，以百分制标准评级，总共评出了六个级别（见表5）。

在问题2的计算中，我们求出了各支酒的分数，考虑到所有分数在区间[61.6，81.5]波动，以原等级表分级，结果将会很模糊，不能分得比较清晰。

为此我们需要进一步细化等级。

为此我们重新细化出5个等级，为了方便计算，我们还对等级进行降序数字等级（见表6）。

通过对数据的预处理，我们得到了一个新的关于葡萄酒的分级表格（见表7）：考虑到葡萄酒的质量与酿酒葡萄间有比较之间的关系，我们将保留葡萄酒质量对于酿酒葡萄的影响，先单纯从酿酒葡萄的理化指标对酿酒葡萄进行分类，然后在通过葡萄酒质量对酿酒葡萄质量的优劣进一步进行划分。

5.2.2建立模型在通过酿酒葡萄的理化指标对酿酒葡萄分类的过程，我们用到了聚类分析方法中的ward 最小方差法，又叫做离差平方和法。

聚类分析是研究分类问题的一种多元统计方法。

所谓类，通俗地说，就是指相似元素的集合。

为了将样品进行分类，就需要研究样品之间关系。

这里的最小方差法的基本思想就是将一个样品看作P 维空间的一个点，并在空间的定义距离，距离较近的点归为一类；距离较远的点归为不同的类。

面对现在的问题，我们不知道元素的分类，连要分成几类都不知道。

现在我们将用SAS 系统里面的stepdisc 和cluster 过程完成判别分析和聚类分析，最终确定元素对象的分类问题。

建立数据阵，具体数学表示为：1111...............m n nm X X X X X ⎡⎤⎢⎥=⎢⎥⎢⎥⎣⎦（5.2.1） 式中，行向量1(,...,)i i im X x x =表示第i 个样品；列向量1(,...,)'j j nj X x x =’，表示第j 项指标。

一、实验目的1. 理解聚类分析的基本原理和方法。

2. 掌握K-means、层次聚类等常用聚类算法。

3. 学习如何使用Python进行聚类分析，并理解算法的运行机制。

4. 分析实验结果，并评估聚类效果。

二、实验环境1. 操作系统：Windows 102. 编程语言：Python3.83. 库：NumPy、Matplotlib、Scikit-learn三、实验数据本次实验使用的数据集为Iris数据集，包含150个样本，每个样本有4个特征（花萼长度、花萼宽度、花瓣长度、花瓣宽度），属于3个不同的类别。

四、实验步骤1. 导入Iris数据集，并进行数据预处理。

2. 使用K-means算法进行聚类分析，选择合适的K值。

3. 使用层次聚类算法进行聚类分析，观察聚类结果。

4. 分析两种算法的聚类效果，并进行比较。

5. 使用Matplotlib绘制聚类结果的可视化图形。

五、实验过程1. 数据预处理```pythonfrom sklearn import datasetsimport numpy as np# 加载Iris数据集iris = datasets.load_iris()X = iris.datay = iris.target# 数据标准化X = (X - np.mean(X, axis=0)) / np.std(X, axis=0) ```2. K-means聚类分析```pythonfrom sklearn.cluster import KMeans# 选择K值k_values = range(2, 10)inertia_values = []for k in k_values:kmeans = KMeans(n_clusters=k, random_state=42) kmeans.fit(X)inertia_values.append(kmeans.inertia_)# 绘制肘部图import matplotlib.pyplot as pltplt.plot(k_values, inertia_values, marker='o') plt.xlabel('Number of clusters')plt.ylabel('Inertia')plt.title('Elbow Method')plt.show()```3. 层次聚类分析```pythonfrom sklearn.cluster import AgglomerativeClustering# 选择层次聚类方法agglo = AgglomerativeClustering(n_clusters=3)y_agglo = agglo.fit_predict(X)```4. 聚类效果分析通过观察肘部图，可以发现当K=3时，K-means算法的聚类效果最好。

聚类分析习题
一、填空题
1、系统聚类法是在聚类分析的开始，每个样本自成________；然后，按照某种方法度量所有样本之间的亲疏程度，并把最相似的样本首先聚成一小类；接下来，度量剩余的样本和小类间的___________，并将当前最接近的样本或小类再聚成一类；如此反复，直到所有样本聚成一类为止。

2、常见的两类聚类法分别为：__________________和________________。

二、判断题
1、快速（动态）聚类分析中，分类的个数是确定的，不可改变。

（）
2、K均值聚类分析中，样品一旦划入某一类就不可改变。

（）
3、系统聚类可以对不同的类数产生一系列的聚类结果。

（）
4、K均值聚类和系统聚类一样，可以用不同的方法定义点点间的距离。

（）
5、K均值聚类和系统聚类一样，都是以距离的远近亲疏为标准进行聚类的。

（）
三、计算题
设有六个样品，每个样品只测量一个指标，分别是1，2，5，7，9，10。

（1）试用最短距离法、最长距离法、中间距离法、类平均法、重心法和离差平方和法将它们分类，并画出聚类谱系图。

（2）自己设置一个距离阈值d，写出最终的聚类结果。

聚类分析作业之青柳念文创作
例题：
停止聚类分析，步调如下：
1、尺度化的欧式间隔聚类
各类所属
得出以上成果，以欧氏间隔为计算间隔方法，把以
上17个亚洲国家地区按6个变量欧氏间隔划分为三类.
第一类为：Bangladesh
第二类为：China
第三类为：Malaysia
2、测验测验其他类间间隔方法
其他类间间隔方法得出以上成果，以欧氏间隔为计
算间隔方法，把以上17个亚洲国家地区按6个变量欧氏
间隔也可以划分为以下三类:
第一类为：Bangladesh
第二类为：China
第三类为：Malaysia
3、用样本主成分画图
由图可知，所聚成的3类中:
第1类有5个样本，类间间隔较接近，效果较好；第2类有6个样本，类间间隔较接近，效果次之；第3类有6个样本.类间间隔较团圆，效果最差.。

一、填空题1.EM算法中，E代表期望，M代表（）。

正确答案：最大化2.无监督学习中除了聚类，另一种是（）。

正确答案：建模3.我们将一个数据可以属于多个类（概率）的聚类称作（）。

正确答案：软聚类二、判断题1.聚类算法中的谱聚类算法是一种分层算法。

正确答案：×解析：聚类算法中的谱聚类算法是一种扁平算法。

2.两个向量之间的余弦距离等于1减这两个向量的余弦相似度。

正确答案：√3.K-均值++算法能够克服最远点不能处理离群值的问题。

正确答案：√4.K-means和EM聚类之间的主要区别之一是EM聚类是一种“软”聚类算法。

正确答案：√5.监督学习的训练集时有标签的数据。

正确答案：√6.在文本聚类中，欧氏距离是比较适合的。

正确答案：×三、单选题1.以下哪些方法可以确定K-均值算法已经收敛？（）A.划分不再改变B.聚类中心不再改变C.固定次数的迭代D.以上三种均是正确答案：D2.以下哪些算法可以处理非高斯数据？（）A.K-means算法B.EM算法C.谱聚类算法D.以上三种算法都可以正确答案：C四、多选题1、无监督学习可以应用于哪些方面？（）A.图像压缩B.生物信息学：学习基因组C.客户细分（即分组）D.学习没有任何标签的聚类/群组正确答案：A、B、C、D2、以下哪些选项是K-均值聚类面临的问题？（）A.K的选择具有挑战性B.硬聚类并不总是正确的C.贪婪算法存在的问题D.关于数据的球形假设（到聚类中心的距离）正确答案：A、B、C、D3、聚类可以应用于哪些方面？（）A.基因表达数据的研究B.面部聚类C.搜索结果聚类D.新闻搜索正确答案：A、B、C、D4、在K-均值算法中，以下哪些方法可以用于随机种子的选择？（）A.随机选择数据作为中心B.空间中的随机位置作为中心C.尝试多个初始起点D.使用另一个聚类方法的结果进行初始化正确答案：A、B、C、D5、EM算法可以应用于以下哪些方面？（）A.学习贝叶斯网络的概率B.EM-聚类C.训练HMMD.学习微信好友网络正确答案：A、B、C、D。

例题1：下表是我国16个地区农民在1982年支出情况的抽样调查数据的汇总资料，每个地区都调查了反映每人平均生活消费支出情况的六个指标。

试利用调查资料对16个地区进行分类。

地区食品衣着燃料住房生活用品及其他文化生活服务支出北京190.33 43.77 9.73 60.54 49.01 9.04 天津135.2 36.4 10.47 44.16 36.49 3.94 河北95.21 22.83 9.3 22.44 22.81 2.8 山西104.78 25.11 6.4 9.89 18.17 3.25 内蒙古128.41 27.63 8.94 12.58 23.99 3.27 辽宁145.68 32.83 17.19 27.29 39.09 3.47 吉林159.37 33.38 18.37 11.81 25.29 5.52 黑龙江116.22 29.57 13.24 13.76 21.75 6.04 上海221.11 38.64 12.53 115.65 50.82 5.89 江苏144.98 29.12 11.67 42.6 27.3 5.74 浙江169.92 32.75 12.72 47.12 34.35 5安徽153.11 23.09 15.62 23.54 18.18 6.39 福建144.92 21.26 16.96 19.52 21.75 6.73 江西140.51 21.5 17.64 19.19 15.97 4.94 山东115.84 30.26 12.2 33.61 33.77 3.85 河南101.18 23.26 8.46 20.2 20.5 4.3下面用统计学软件 SAS(Statistical Analysis System) data dfdf;input city $ x1 x2 x3 x4 x5 x6;cards;beijing 190.33 43.77 9.73 60.54 49.01 9.04tianjing 135.20 36.40 10.47 44.16 36.49 3.94hebei 95.21 22.83 9.30 22.44 22.81 2.80shanxi 104.78 25.11 6.40 9.89 18.17 3.25 neimenggu 128.41 27.63 8.94 12.58 23.99 3.27 liaoning 145.68 32.83 17.19 27.29 39.09 3.47jilin 159.37 33.38 18.37 11.81 25.29 5.22 heilongjiang 116.22 29.57 13.24 13.76 21.75 6.04 shanghai 221.11 38.64 12.53 115.65 50.82 5.89 jiangsu 144.98 29.12 11.67 42.60 27.30 5.74 zhejiang 169.92 32.75 12.72 47.12 34.35 5.00anhui 153.11 23.09 15.62 23.54 18.18 6.39fujian 144.92 21.26 16.96 19.52 21.75 6.73jiangxi 140.54 21.50 17.64 19.19 15.97 4.94 shandong 115.84 30.26 12.20 33.61 33.77 3.85henan 101.18 23.26 8.46 20.20 20.50 4.30;run;proc cluster data=dfdf std outtree=tree method=ave pesudo rsq;id city;run; /*ward离差平方和法 war; 类平均法 ave; 重心法 cen;最长距离法 com;中间距离法 med; 最短距离法 sin;密度估计法 den;极大似然法 eml; 可变类平均 fle;相似分析法 mcq; 两阶段密度估计 two; */proc tree data=tree out=new graphics horizontal；id city;run;Cluster HistoryNormRMS NCL Clusters Joined--- FREQ SPRSQ RSQ PSF PST2 Dist 15 anhui fujian 2 0.0025 0.998 28.7 . 0.193 14 hebei henan 2 0.0055 0.992 19.1 . 0.2869 13 CL14 shanxi 3 0.0068 0.985 16.7 1.2 0.3116 12 CL15 jiangxi 3 0.0099 0.975 14.4 4 0.3481 11 jiangsu zhejiang 2 0.0089 0.966 14.4 . 0.366 10 CL13 neimengg 4 0.0106 0.956 14.4 1.7 0.3692 9 tianjing shandong 2 0.0092 0.947 15.5 . 0.3711 8 CL9 CL11 4 0.0237 0.923 13.7 2.6 0.4957 7 liaoning jilin 2 0.0189 0.904 14.1 . 0.5329 6 heilongj CL12 4 0.0267 0.877 14.3 4.3 0.5463 5 CL8 CL7 6 0.0528 0.824 12.9 3.5 0.6681 4 CL5 CL6 10 0.1269 0.698 9.2 6.6 0.7823 3 CL4 CL10 14 0.1955 0.502 6.6 7.8 0.8751 2 beijing shanghai 2 0.0562 0.446 11.3 . 0.91841CL2 CL3 16 0.4458 0 . 11.3 1.5454（1）2R 统计量（列标题为RSQ ）用于评价每次合并成NCL 个类时的聚类效果。