第5章聚类分析

● 05
第5章 分类与聚类分析
分类分析
分类分析是一种利用数据特征将数据划分为不同 类别的技术。通过对数据的特征进行分析，可以 建立分类模型用于预测未知数据的类别。常见的 分类方法包括决策树、逻辑回归等。
机器学习算法
01 决策树
基于树状结构进行分类
02 支持向量机
通过构建超平面实现分类
03 K近邻
分类与聚类分析案例解析
数据准备
清洗和处理原始 数据
模型建立
选择合适的算法 建立分类或聚类
模型
模型评估
评估模型的性能 和准确度
特征选择
选择对分类或聚 类有意义的特征
分类与聚类分析案例解析
客户分群
将客户根据消费 行为进行分类
异常检测
识别数据中的异 常点
预测模型
利用历史数据建 立预测模型
市场细分
根据市场特征细 分目标市场
时间序列模型
01 自回归模型
原理解析
02 移动平均模型
原理解析
03 选择合适模型
预测步骤
时间序列分析工具
主流工具
ARIMA模型 Exponential Smoothing Holt-Winters方法
使用方法
数据准备 模型拟合 预测分析
应用范围
金融 销售 气象
时间序列分析案例解析
电商销量预 测
金融行业 医疗健康领域 营销与广告
结语
感谢读者的阅读和支 持。希望本书能够对 读者在数据分析领域 有所帮助，带来启发 和价值。
感谢观看
THANKS
根据邻居的类别进行分类
聚类分析
基本原理
聚类分析是一种无监督学 习方法 通过数据的相似性进行分 组

• 为定义个体间的距离应先将每个样本数据看成k维 空间的一个点，通常，点与点之间的距离越小，意 味着他们越“亲密”，越有可能聚成一类，点与点 之间的距离越大，意味着他们越“疏远”，越有可 能分别属于不同的类。
• 例：下表是同一批客户对经常光顾的五座商场在购物环境和
服务质量两方面的平均得分，现希望根据这批数据将五座商
7、如果参与聚类分析的变量存在数量级上的差异， 应在Transform Values框中的Standardize选项 中选择消除数量级差的方法。并指定处理是针对变 量的还是针对样本的。By variable表示针对变量， 适于 Q 型聚类分析；By case 表示针对样本，适 于R型聚类分析。
8、单击Statistics按钮指定输出哪些统计量
R型聚类：对变量进行聚类，使具有相似性的变量聚集在 一起，差异性大的变量分离开来，可在相似变量中选择 少数具有代表性的变量参与其他分析，实现减少变量个 数，达到变量降维的目的。
凝聚方式聚类：其过程是，首先，每个个体自成一类； 然后，按照某种方法度量所有个体间的亲疏程度，并将 其中最“亲密”的个体聚成一小类，形成n-1个类；接下 来，再次度量剩余个体和小类间的亲疏程度，并将当前 最亲密的个体或小类再聚到一类；重复上述过程，直到 所有个体聚成一个大类为止。可见，这种聚类方式对n个 个体通过n-1步可凝聚成一大类。
平方欧式距离（Squared Euclidean distance ） 切比雪夫（Chebychev）距离
max xi yi max( 7366 , 6864 )
Block距离
k
xi yi 73 66 68 64 i1
2、计数变量个体间距离的计算方式
卡方（Chi-Square measure）距离 Phi方（Phi-Square measure）距离

第一章：多元统计分析研究的容（5点）1、简化数据结构（主成分分析）2、分类与判别（聚类分析、判别分析）3、变量间的相互关系（典型相关分析、多元回归分析）4、多维数据的统计推断5、多元统计分析的理论基础第二三章：二、多维随机变量的数字特征1、随机向量的数字特征随机向量X 均值向量：随机向量X 与Y 的协方差矩阵： 当X=Y 时Cov （X ，Y ）=D （X ）；当Cov （X ，Y ）=0 ，称X ，Y 不相关。

随机向量X 与Y 的相关系数矩阵：2、均值向量协方差矩阵的性质(1).设X ，Y 为随机向量，A ，B 为常数矩阵E （AX ）=AE （X ）；E （AXB ）=AE （X ）B;D(AX)=AD(X)A ’;Cov(AX,BY)=ACov(X,Y)B ’;)',...,,(),,,(2121P p EX EX EX EX μμμ='= )')((),cov(EY Y EX X E Y X --=q p ij r Y X ⨯=)(),(ρ(2).若X ，Y 独立，则Cov(X,Y)＝０，反之不成立．(3).X 的协方差阵D(X)是对称非负定矩阵。

例2.见黑板三、多元正态分布的参数估计2、多元正态分布的性质(1).若 ,则E(X)= ,D(X)= .特别地，当 为对角阵时， 相互独立。

(2).若 ，Ａ为sxp 阶常数矩阵，d 为s 阶向量，ＡＸ＋d ～ . 即正态分布的线性函数仍是正态分布． (3).多元正态分布的边缘分布是正态分布，反之不成立．(4).多元正态分布的不相关与独立等价．例３．见黑板．三、多元正态分布的参数估计(1)“ 为来自p 元总体X 的（简单）样本”的理解---独立同截面． (2)多元分布样本的数字特征---常见多元统计量样本均值向量 ＝样本离差阵Ｓ＝ 样本协方差阵Ｖ＝ S ;样本相关阵Ｒ(3) ,Ｖ分别是 和 的最大似然估计； (4)估计的性质 是 的无偏估计； ,Ｖ分别是 和 的有效和一致估计； ； Ｓ～ ， 与Ｓ相互独立； 第五章 聚类分析：一、什么是聚类分析 ：聚类分析是根据“物以类聚”的道理，对样品或指标进行分类的一种多元统计分析方法。

表5.1.2 指标关联矩阵
X1 X2 X3 X1 1 X2 X3 X4 X5 X6 X7 X8 X9 X10 X11 X12 X13 X14 X15 X4 X5 .58 .53 .7 .56 1 X6 .77 .59 .51 .53 .07 1 X7 .51 .5 .72 .58 .51 .51 1 X8 .66 .99 .51 .51 .53 .59 .5 1 X9 .51 .51 .51 .69 .53 .05 .7 .51 1 X10 X11 X12 X13 X14 X15 .51 .51 .51 .62 .52 .52 .83 .51 .81 1 .9 .63 .8 .52 .61 .84 .51 .63 .52 .51 1 .88 .62 .78 .52 .61 .86 .51 .62 .52 .51 .97 1 .8 .77 .9 .51 .55 .66 .51 .77 .51 .51 .74 .73 1 .67 .55 .63 .54 .75 .81 .51 .55 .53 .52 .71 .72 .6 1 .51 .51 .51 .6 .52 .51 .89 .51 .76 .92 .51 .51 .51 .52 1 .66 .88 .52 1 .07 .51 1 .56 1
x k (1) 个转折点 j
f jk (•) 无第一和第二
f jk [−, −, x k (3), x k (4)]. 权函数， 权函数，记为 j j f jk (•) 的第二和第三个转折点重 2、若白化权函数 f jk (•)为适中测度白化权函数， 为适中测度白化权函数， 合，则称
x k (2) ,则称 f jk (•) 为下限测度白化 , j ,则称
1.4.1中白化权函数 例 图1.4.1中白化权函数 f ( x) 表示贷款额这一灰数及其受 什么是白化权函数？ 什么是白化权函数？ 偏爱”程度。其中， “偏爱”程度。其中，直线用 来表示“正常愿望” 来表示“正常愿望”，即“偏 程度与资金（万元） 爱”程度与资金（万元）成比 例增加。 例增加。不同的斜率表示欲望 f1 的强烈程度不同， 的强烈程度不同，( x) 表示较为 平缓的欲望，认为贷给10 10万元 平缓的欲望，认为贷给10万元 不行，贷给20万元就比较满意， 20万元就比较满意 不行，贷给20万元就比较满意， f2 贷给30万元就足够了； 30万元就足够了 贷给30万元就足够了； 表示( x) 愿望强烈，贷给35 35万元也只有 愿望强烈，贷给35万元也只有 f3 ( x) 20%的满意程度 的满意程度； 20%的满意程度； 表明即使 贷给40万元， 40万元 贷给40万元，满意程度才达到 10%，但贷50万元就行了， 50万元就行了 10%，但贷50万元就行了，即 非要接近50万元不可， 50万元不可 非要接近50万元不可，没有减 少的余地。 少的余地。