当前位置：文档之家 › 《应用多元统计分析》第05章-聚类分析

《应用多元统计分析》第05章-聚类分析

  • 格式：ppt
  • 大小：1.88 MB
  • 文档页数：62

下载文档原格式

  / 62

合集下载

多元统计分析课件聚类分析

多元统计分析课件聚类分析
G7={X1, X2,X3} G8={X4,X5 }
G7
0 34.03
G8
0
（五）类平均法
（Between-group Linkage) 类类间：两类之间的距离为两类样品两 两之间的平均距离
• •
•
• •
•
递推公式
D2（0） G1={X1} G2={X2} G3={X3} G4={X4} G5={X5}
D（1）
G3 G4 G5
2.5 6 8
0 3.5 5.5 0 2 0
D（2）
表3
D(2) G6={X1, X2} G7={X4，X5} G3={X3} G6 0 8 2.5 0 5.5 0 G7 G3
D（3）
表4
D(3) G7={X4,X5 } G8={X1, X2,X3} G7 0 8 0 G8
[ ( xi xi ) ][ ( xj x j ) ]
2 2
n
n
1
1
相似矩阵
第三节 八种系统聚类方法
（hierarchical clustering method）
系统聚类法是诸聚类分析方法中使用最多 的一种，按下列步骤进行：
将n个样品各作为一类
计算n个样品两两之间的距离，构成距离矩阵 合并距离最近的两类为一新类 计算新类与当前各类的距离。再合并、计算 ，直至只有一类为止
样品进行分类。
D（0）
表1
D(0) G1={X1}G2={X2}G3={X3}G4={X4}G5={X5} G1={X1} 0
G2={X2} 1
G3={X3} 2.5
0
1.5 0
G4={X4} 6
G5={X5} 8
5

应用多元统计分析聚类分析

应用多元统计分析聚类分析

应用多元统计分析聚类分析多元统计分析是一种利用多个变量对数据进行综合分析的方法，通过对各个变量之间的关系进行分析，可以帮助我们了解数据的内在规律，揭示变量之间的相互作用，为问题的解决提供依据和参考。

其中，聚类分析是多元统计分析中的一种方法，它通过将样本数据划分为不同的组别，使得组内的样本之间相似度较高，组间的样本相似度较低，从而实现数据的分类和整理。

聚类分析的过程一般可分为以下几个步骤：1.确定聚类的目标与方法：在进行聚类分析之前，需要明确分析的目标，即希望把样本分成多少个组别，以及采用什么样的分析方法。

2.选择合适的变量和数据：聚类分析需要选择一些具有代表性的变量作为分析对象，并准备好相应的数据。

这些变量可以是数值型、名义型或顺序型的，但需要注意的是，不同类型的变量需要采用不同的距离度量。

3.计算样本间的距离：通过选择合适的距离度量方法，可以度量各个样本之间的相似度或距离，常用的距离度量方法有欧氏距离、曼哈顿距离和相关系数等。

4.执行聚类分析：根据选定的聚类方法，进行聚类分析。

常用的聚类方法有层次聚类和非层次聚类两种，其中层次聚类可以进一步分为凝聚聚类和分裂聚类等。

5.判断聚类结果的合理性：根据实际情况和问题要求，对得到的聚类结果进行合理性检验。

可以通过观察不同聚类组别内的样本特征和组间的差异度，评估聚类结果的合理性。

6.解释和应用聚类结果：根据聚类分析得到的结果，可以对分类的样本进行解释和应用。

例如，可以找到各个类别的典型样本，分析其特征和规律，为问题的解决提供参考和支持。

聚类分析在实际应用中具有很广泛的应用价值。

例如，在市场细分方面，可以利用聚类分析将消费者划分为不同的群体，有针对性地开展精准营销；在医药领域中，可以通过聚类分析将疾病患者划分为不同的病种，帮助医生进行诊断和治疗方案的选择；在社会科学研究中，可以利用聚类分析将受访者划分为不同的人群，通过对不同人群的特征分析，了解社会问题背后的机制和原因。

厦门大学《应用多元统计分析》第05章_聚类分析

厦门大学《应用多元统计分析》第05章_聚类分析
归到不同的类内。
在实际聚类过程中，为了计算方便，我们把变量间相似性的 度量公式作一个变换为
或者
dij = 1 ∣cij∣
(5.9)
dij2 = 1 cij2
(5.10)
用表示变量间的距离远近，小则与先聚成一类，这比较符合
人们的一般思维习惯。
第三节 系统聚类分析法
一 系统聚类的基本思想 二 类间距离与系统聚类法 三 类间距离的统一性
聚类分析就是分析如何对样品（或变量）进行量化分类的问 题。通常聚类分析分为Q型聚类和R型聚类。Q型聚类是对样 品进行分类处理，R型聚类是对变量进行分类处理。
第二节 相似性的量度
一 样品相似性的度量 二 变量相似性的度量
一、样品相似性的度量
在聚类之前，要首先分析样品间的相似性。Q型聚类分析， 常用距离来测度样品之间的相似程度。每个样品有p个指标 （变量）从不同方面描述其性质，形成一个p维的向量。如 果把n个样品看成p维空间中的n个点，则两个样品间相似程 度就可用p维空间中的两点距离公式来度量。两点距离公式 可以从不同角度进行定义，令dij 表示样品Xi与Xj的距离，存 在以下的距离公式：
二、类间距离与系统聚类法
在进行系统聚类之前，我们首先要定义类与类之间的距离， 由类间距离定义的不同产生了不同的系统聚类法。常用的类 间距离定义有8种之多，与之相应的系统聚类法也有8种，分 别为最短距离法、最长距离法、中间距离法、重心法、类平 均法、可变类平均法、可变法和离差平方和法。它们的归类 步骤基本上是一致的，主要差异是类间距离的计算方法不同。 以下用dij表示样品Xi与Xj之间距离，用Dij表示类Gi与Gj 之间的距离。
dij }
min{Dkp , Dkq}
(5.12)

多元统计分析 第5章 聚类分析

多元统计分析 第5章 聚类分析

余弦相似性 Cosine Similarity
A document can be represented by thousands of attributes,
p (such as each recording the frequency of a particular word keywords) or phrase in the document. xi yi
feature mapping, ... Cosine measure: If d1 and d2 are two vectors (e.g., termfrequency vectors), then cos(d1, d2) = (d1 d2) /||d1|| ||d2|| ,
where indicates vector dot product, ||d||: the length of vector d
d1 = (5, 0, 3, 0, 2, 0, 0, 2, 0, 0) d2 = (3, 0, 2, 0, 1, 1, 0, 1, 0, 1) d1 d2 = 5*3+0*0+3*2+0*0+2*1+0*1+0*1+2*1+0*0+0*1 = 25 ||d1||= (5*5+0*0+3*3+0*0+2*2+0*0+0*0+2*2+0*0+0*0)0.5=(42)0.5 = 6.481 ||d2||= (3*3+0*0+2*2+0*0+1*1+1*1+0*0+1*1+0*0+1*1)0.5=(17)0.5 = 4.12 cos(d1, d2 ) = 0.94

应用多元统计分析第五章聚类分析

应用多元统计分析第五章聚类分析

改进的方法：对数据进行标准化，然后再计算距离。
13
第十三页，讲稿共六十六页哦
采用明氏距离需要注意的是：
一定要采用相同量纲的变量。如果各变量 的量纲不同，或当各变量的量纲相同但各 变量的测量值相差悬殊时，不能直接采用 明氏距离。
需要先对数据进行标准化处理，然后再用 标准化处理后的数据计算距离。
最常用的标准化处理方法是：
Dk2p
nq nr
Dk2q
np nr
nq nr
D
2 pq
具体计算过程见参考书2p78-79 。
35
第三十五页，讲稿共六十六页哦
系统聚类法
类平均法——Between-groups Linkage 重心法虽有很好的代表性，但并未充分利用个样品的
信息，因此给出类平均法，它定义两类之间的距离平 方为这两类元素两两之间距离平方的平均，即：
3
第三页，讲稿共六十六页哦
聚类分析
由于不同的指标项对重要程度或依赖关系 是相互不同的，所以也不能用平均的方法， 因为这样会忽视相对重要程度的问题。 所以需要进行多元分类，即聚类分析。 最早的聚类分析是由考古学家在对考古分 类中研究中发展起来的，同时又应用于昆虫 的分类中，此后又广泛地应用在天气、生物 等方面。
聚类中选择变量的要求
和聚类分析的目标密切相关 反映了要分类对象的特征 变量之间不应该高度相关。
6
第六页，讲稿共六十六页哦
如何聚类？
聚类分析就是要找出具有相近程度的点或类聚为一类； 如何衡量这个“相近程度”？ 一种方法是用相似系数，性质越接近的样品，它们的
相似系数的绝对值越接近1，而彼此无关的样品，它 们的相似系数的绝对值越接近于零。比较相似的样品 归为一类，不怎么相似的样品归为不同的类。 另一种方法是将一个样品看作p维空间的一个点，并在 空间定义距离，距离越近的点归为一类，距离较远的 点归为不同的类。

高校多元统计教材第5章聚类分析

高校多元统计教材第5章聚类分析

k 1
（3）切比雪夫距离（ q ）
dij
()

max
1k p
X ik
X jk
(5.2) (5.3) (5.4)
欧氏距离是常用的距离，大家都比较熟悉，但是前面已经提 到，在解决多元数据的分析问题时，欧氏距离就显示出了它 的不足之处。一是它没有考虑到总体的变异对“距离”远近 的影响，显然一个变异程度大的总体可能与更多样品近些， 既使它们的欧氏距离不一定最近；另外，欧氏距离受变量的 量纲影响，这对多元数据的处理是不利的。为了克服这方面 的不足，可用“马氏距离”的概念。
3．兰氏距离
dij X jk X ik X jk
(5.6)
它仅适用于一切Xij>0的情况，这个距离也可以克服各个指标 之间量纲的影响。这是一个自身标准化的量，由于它对大的
奇异值不敏感，它特别适合于高度偏倚的数据。虽然这个距
离有助于克服明氏距离的第一个缺点，但它也没有考虑指标 之间的相关性。
聚类分析就是分析如何对样品（或变量）进行量化分类的问 题。通常聚类分析分为Q型聚类和R型聚类。Q型聚类是对样 品进行分类处理，R型聚类是对变量进行分类处理。
第二节 相似性的量度
一 样品相似性的度量 二 变量相似性的度量
一、样品相似性的度量
在聚类之前，要首先分析样品间的相似性。Q型聚类分析， 常用距离来测度样品之间的相似程度。每个样品有p个指标 （变量）从不同方面描述其性质，形成一个p维的向量。如 果把n个样品看成p维空间中的n个点，则两个样品间相似程 度就可用p维空间中的两点距离公式来度量。两点距离公式 可以从不同角度进行定义，令dij 表示样品Xi与Xj的距离，存 在以下的距离公式：
2．马氏距离

多元统计分析-聚类分析

多元统计分析-聚类分析聚类分析是⼀个迭代的过程对于n个p维数据，我们最开始将他们分为n组每次迭代将距离最近的两组合并成⼀组若给出需要聚成k类，则迭代到k类是，停⽌计算初始情况的距离矩阵⼀般⽤马⽒距离或欧式距离个⼈认为考试只考 1,2⽐较有⽤的⽅法是3,4,5,8最喜欢第8种距离的计算 欧式距离 距离的⼆范数 马⽒距离 对于X1, X2均属于N(u, Σ) X1,X2的距离为 (X1 - X2) / sqrt(Σ)那么不同的聚类⽅法其实也就是不同的计算类间距离的⽅法1.最短距离法 计算两组间距离时，将两组间距离最短的元素作为两组间的距离2.最长距离法 将两组间最长的距离作为两组间的距离3.中间距离法 将G p,G q合并成为G r 计算G r与G k的距离时使⽤如下公式 D2kr = 1/2 * D2kp + 1/2 * D2kq + β * D2pq β是提前给定的超参数-0.25<=β<=04.重⼼法 每⼀组都可以看成⼀组多为空间中点的集合，计算组间距离时，可使⽤这两组点的重⼼之间的距离作为类间距离 若使⽤的是欧⽒距离 那么有如下计算公式 D2kr = n p/n r * D2kp + n q/n r * D2kq - (n p*n q / n r*n r ) * D2pq5.类平均法 两组之间的距离 = 组间每两个样本距离平⽅的平均值开根号 表达式为D2kr = n p/n r * D2kp + n q/n r * D2kq6.可变类平均法 可以反映合并的两类的距离的影响 表达式为D2kr = n p/n r *(1- β) * D2kp + n q/n r *(1- β) * D2kq + β*D2pq 0<=β<17.可变法 D2kr = (1- β)/2 * (D2kp + D2kq) + β*D2pq8.离差平⽅和法 这个⽅法⽐较实⽤ 就是计算两类距离的话，就计算，如果将他们两类合在⼀起之后的离差平⽅和 因为若两类本⾝就是⼀类，和本⾝不是⼀类，他们的离差平⽅和相差较⼤ 离差平⽅和:类中每个元素与这⼀类中的均值距离的平⽅之和 若统⼀成之前的公式就是 D2kr = (n k + n p)/(n r + n k) * D2kp + (n k + n q)/(n r + n k) -(n k)/(n r + n k) * * D2pq⼀些性质 除了中间距离法之外，其他的所有聚类⽅法都具有单调性 单调性就是指每次聚类搞掉的距离递增 空间的浓缩和扩张 D(A)>=D(B) 表⽰A矩阵中的每个元素都不⼩于B D(短) <= D(平) <= D(长) D(短，平) <= 0 D(长，平) >= 0 中间距离法⽆法判断。

应用多元统计分析 聚类分析 PPT


p
X p X p )
nq nr
( X k X k
2 X k X q
X q X q )
n p nq nr
(X
p X
p
2 X p X q
X q X q )
np nr
Dk2p
nq nr
Dk2q
n p nq nr2
Dp2q
（5.19）
【例5、2】针对例5、1的数据,试用重心法将它们聚类。 (1)样品采纳欧氏距离,计算样品间的平方距离阵D2(0),见表5、4
dij }
min{Dkp , Dkq}
(5、12)
最短距离法进行聚类分析的步骤如下:
(1)定义样品之间距离,计算样品的两两距离,得一距离
阵记为D(0) ,开始每个样品自成一类,显然这时Dij = dij。 (2)找出距离最小元素,设为Dpq,则将Gp和Gq合并成一个 新类,记为Gr,即Gr = ｛Gp,Gq｝。 (3)按(5、12)计算新类与其它类的距离。
1、明考夫斯基距离
p
dij (q) (
X ik X jk )q 1/ q
k 1
(5、1)
明考夫斯基距离简称明氏距离,按的取值不同又可分成:
欧氏距离是常用的距离,大伙儿都比较熟悉,然而前面差不多 提到,在解决多元数据的分析问题时,欧氏距离就显示出了它
的不足之处。一是它没有考虑到总体的变异对“距离”远近 的影响,显然一个变异程度大的总体估计与更多样品近些,既 使它们的欧氏距离不一定最近;另外,欧氏距离受变量的量纲 影响,这对多元数据的处理是不利的。为了克服这方面的不 足,可用“马氏距离”的概念。
G1
G2
G3
G4
G1
0
G2

多元统计课件第5章 聚类分析

G7 G7 G3 G4 G8 0 3 5 7 0 2 4 0 2 0 G3 G4 G8
表5.2
合并， （3）在D（1）中最小值是 34＝D48＝2，由于 4与G3合并， ） ，由于G ）中最小值是D 又与G 合并，因此G 合并成一个新类G 又与 8合并，因此 3、G4、G8合并成一个新类 9，其与其 它类的距离D ） 见表5.3 它类的距离 （2） ，见表
1 2 1 2 2 D = Dkp + Dkq + βD pq 2 2
2 kr
(−1／4 ≤ β ≤ 0) − ／
(5.15)
如果采用最短距离法， 设Dkq＞Dkp，如果采用最短距离法，则Dkr = Dkp，如果采用 最长距离法， 如图5.2所示 所示， 最长距离法，则Dkr = Dkq。如图 所示，(5.15)式就是取它 式就是取它 最长距离与最短距离）的中间一点作为计算D 的根据。 们（最长距离与最短距离）的中间一点作为计算 kr的根据。
它的重心是 X r =
D =
2 kr
np nr
D +
2 kp
nq nr
D −
2 kq
n p nq n
2 r
2 D pq
（5.18） ）
） 式表示的类 G k 与新类 G r 这里我们应该注意， 这里我们应该注意， 实际上 5.18） （ 的距离为： 的距离为：
2 Dkr = ( X k − X r )′( X k − X r )
Dkr =
X i ∈Gk , X j ∈Gr
max
dij
d ij , max d ij }
= max{
X i ∈Gk , X j ∈G pj
max
xi ∈Gk , x j ∈Gq

应用多元统计分析聚类分析详解演示文稿


2．马氏距离
设Xi与Xj是来自均值向量为 ，协方差为∑ =（＞0）的总体
G中的p维样品，则两个样品间的马氏距离为
di2j (M ) (Xi X j )Σ1(Xi X j )
(5.5)
马氏距离又称为广义欧氏距离。显然，马氏距离与上述各种 距离的主要不同就是它考虑了观测变量之间的相关性。如果 各变量之间相互独立，即观测变量的协方差矩阵是对角矩阵， 则马氏距离就退化为用各个观测指标的标准差的倒数作为权 数的加权欧氏距离。马氏距离还考虑了观测变量之间的变异 性，不再受各指标量纲的影响。将原始数据作线性变换后， 马氏距离不变。
应用多元统计分析聚类分析详解演示文稿
优选应用多元统计分析聚类分析
但历史上这些分类方法多半是人们主要依靠经验作定性分类， 致使许多分类带有主观性和任意性，不能很好地揭示客观事 物内在的本质差别与联系；特别是对于多因素、多指标的分 类问题，定性分类的准确性不好把握。为了克服定性分类存 在的不足，人们把数学方法引入分类中，形成了数值分类学。 后来随着多元统计分析的发展，从数值分类学中逐渐分离出 了聚类分析方法。随着计算机技术的不断发展，利用数学方 法研究分类不仅非常必要而且完全可能，因此近年来，聚类 分析的理论和应用得到了迅速的发展。
3．兰氏距离
dij (L)
1p p k 1
X ik X jk X ik X jk
(5.6)
它仅适用于一切Xij>0的情况，这个距离也可以克服各个指标 之间量纲的影响。这是一个自身标准化的量，由于它对大的
奇异值不敏感，它特别适合于高度偏倚的数据。虽然这个距
离有助于克服明氏距离的第一个缺点，但它也没有考虑指标 之间的相关性。
1．明考夫斯基距离
p
dij (q) (
  1. 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。

G7
G9
G7
0
G9
3
0
表5.3
（4）最后将G7和G9合并成G10，这时所有的六个样品聚为一 类，其过程终止。 上述聚类的可视化过程见图5.1所示，横坐标的刻度表示并 类的距离。这里我们应该注意，聚类的个数要以实际情况所 定，其详细内容将在后面讨论。
图5.1 最短距离聚类法的过程
2. 最长距离法
定义类 Gi 与 G j 之间的距离为两类最远样品的距离，即
但历史上这些分类方法多半是人们主要依靠经验作定性分类， 致使许多分类带有主观性和任意性，不能很好地揭示客观事 物内在的本质差别与联系；特别是对于多因素、多指标的分 类问题，定性分类的准确性不好把握。为了克服定性分类存 在的不足，人们把数学方法引入分类中，形成了数值分类学。 后来随着多元统计分析的发展，从数值分类学中逐渐分离出 了聚类分析方法。随着计算机技术的不断发展，利用数学方 法研究分类不仅非常必要而且完全可能，因此近年来，聚类 分析的理论和应用得到了迅速的发展。
二、变量相似性的度量
多元数据中的变量表现为向量形式，在几何上可用多维空 间中的一个有向线段表示。在对多元数据进行分析时，相对 于数据的大小，我们更多地对变量的变化趋势或方向感兴趣。 因此，变量间的相似性，我们可以从它们的方向趋同性或 “相关性”进行考察，从而得到“夹角余弦法”和“相关系 数”两种度量方法。
第五章 聚类分析
第一节 引言 第二节 相似性的量度 第三节 系统聚类分析法 第四节 实例分析与计算机实现
第一节 引言
“物以类聚，人以群分”。对事物进行分类，是人们认识事 物的出发点，也是人们认识世界的一种重要方法。因此，分 类学已成为人们认识世界的一门基础科学。
在生物、经济、社会、人口等领域的研究中，存在着大量量 化分类研究。例如：在生物学中，为了研究生物的演变，生 物学家需要根据各种生物不同的特征对生物进行分类。在经 济研究中，为了研究不同地区城镇居民生活中的收入和消费 情况，往往需要划分不同的类型去研究。在地质学中，为了 研究矿物勘探，需要根据各种矿石的化学和物理性质和所含 化学成分把它们归于不同的矿石类。在人口学研究中，需要 构造人口生育分类模式、人口死亡分类状况，以此来研究人 口的生育和死亡规律。
dij
,
max
xi Gk ,x j Gq
dij }
max{Dkp , Dkq}
（ 5.14）
再找距离最小两类并类，直至所有的样品全归为一类为止。 可以看出最长距离法与最短距离法只有两点不同：
一是类与类之间的距离定义不同； 另一是计算新类与其它类的距离所用的公式不同。
3. 中间距离法 最短、最长距离定义表示都是极端情况，我们定义类间距离 可以既不采用两类之间最近的距离也不采用两类之间最远的 距离，而是采用介于两者之间的距离，称为中间距离法。
1、夹角余弦
两 角变余量弦可Xi与用X下j看式作进p行维计空算间的两个向量，这两个向量间的夹
p
cosij
Xik X jk
k 1
p
p
(5.7)
(
X
2 ik
)(
X
2 jk
)
k 1
k 1
显然，∣cos ij∣ 1。
2．相关系数 相关系数经常用来度量变量间的相似性。变量Xi与Xj的相关 系数定义为
为
Dpq

max
Xi Gp , X j Gq
dij
(5.13)
最长距离法与最短距离法的并类步骤完全一样，也是将
各样品先自成一类，然后将距离最小的两类合并。将类
G p 与 Gq 合并为 Gr ，则任一类 Gk 与 Gr 的类间距离公
式为
Dkr

max
XiGk , X j Gr
dij

max{ max Xi Gk , X j Gpj
二、类间距离与系统聚类法
在进行系统聚类之前，我们首先要定义类与类之间的距离， 由类间距离定义的不同产生了不同的系统聚类法。常用的类 间距离定义有8种之多，与之相应的系统聚类法也有8种，分 别为最短距离法、最长距离法、中间距离法、重心法、类平 均法、可变类平均法、可变法和离差平方和法。它们的归类 步骤基本上是一致的，主要差异是类间距离的计算方法不同。 以下用dij表示样品Xi与Xj之间距离，用Dij表示类Gi与Gj 之间的距离。
归到不同的类内。
在实际聚类过程中，为了计算方便，我们把变量间相似性的 度量公式作一个变换为
或者
dij = 1 ∣cij∣
(5.9)
dij2 = 1 cij2
(5.10)
用表示变量间的距离远近，小则与先聚成一类，这比较符合
人们的一般思维习惯。
第三节 系统聚类分析法
一 系统聚类的基本思想 二 类间距离与系统聚类法 三 类间距离的统一性
中间距离将类Gp与Gq类合并为类Gr，则任意的类Gk和Gr的距 离公式为
Dk2r

1 2
Dk2p

1 2
Dk2q

D
2 pq
(1／4 0)
(5.15)
设Dkq＞Dkp，如果采用最短距离法，则Dkr = Dkp，如果采用 最长距离法，则Dkr = Dkq。如图5.2所示，(5.15)式就是取它 们（最长距离与最短距离）的中间一点作为计算Dkr的根据。
1. 最短距离法 定义类与之间的距离为两类最近样品的距离，即为
Dij min d XiGi , X jG j ij
(5.11)
设类与合并成一个新类记为，则任一类与的距离为
Dkr min d XiGk , X j Gr ij

min{ min Xi Gk , X j Gp
dij
,
2．马氏距离
设Xi与Xj是来自均值向量为 ，协方差为∑ =（＞0）的总体
G中的p维样品，则两个样品间的马氏距离为
di2j (M ) (Xi X j )Σ1(Xi X j )
(5.5)
马氏距离又称为广义欧氏距离。显然，马氏距离与上述各种
距离的主要不同就是它考虑了观测变量之间的相关性。如果 各变量之间相互独立，即观测变量的协方差矩阵是对角矩阵， 则马氏距离就退化为用各个观测指标的标准差的倒数作为权 数的加权欧氏距离。马氏距离还考虑了观测变量之间的变异 性，不再受各指标量纲的影响。将原始数据作线性变换后， 马氏距离不变。
1．明考夫斯基距离
p
dij (q) (
X ik X jk )q 1/ q
k 1
(5.1)
明考夫斯基距离简称明氏距离，按的取值不同又可分成：
（1）绝对距离（ q 1）
p
dij (1) X ik X jk k 1
（2）欧氏距离（ q 2）
p
dij (2) (
X ik X jk )2 1/ 2
p
( Xik Xi )( X jk X j )
rij
k 1 p
p
( Xik Xi )2 ( X jk X j )2
k 1
k 1
(5.8)
显然也有，∣rij∣ 1。
无论是夹角余弦还是相关系数，它们的绝对值都小于1，作 为变量近似性的度量工具，我们把它们统记为cij。当∣cij∣ = 1时，说明变量Xi与Xj完全相似；当∣cij∣近似于1时，说 明变量Xi与Xj非常密切；当∣cij∣ = 0时，说明变量Xi与Xj完 全不一样；当∣cij∣近似于0时，说明变量Xi与Xj差别很大。 据此，我们把比较相似的变量聚为一类，把不太相似的变量
min
xi Gk ,x j Gq
dij }
min{Dkp , Dkq}
(5.12)
最短距离法进行聚类分析的步骤如下：
（1）定义样品之间距离，计算样品的两两距离，得一距离 阵记为D（0） ，开始每个样品自成一类，显然这时Dij = dij。
（2）找出距离最小元素，设为Dpq，则将Gp和Gq合并成一个 新类，记为Gr，即Gr = ｛Gp，Gq｝。 （3）按（5.12）计算新类与其它类的距离。 （4）重复（2）、（3）两步，直到所有元素。并成一类为 止。如果某一步距离最小的元素不止一个，则对应这些
4．距离选择的原则
一般说来，同一批数据采用不同的距离公式，会得到不同 的分类结果。产生不同结果的原因，主要是由于不同的距离 公式的侧重点和实际意义都有不同。因此我们在进行聚类分 析时，应注意距离公式的选择。通常选择距离公式应注意遵 循以下的基本原则：
（1）要考虑所选择的距离公式在实际应用中有明确的意义。如欧氏 距离就有非常明确的空间距离概念。马氏距离有消除量纲影响的作 用。
k 1
（3）切比雪夫距离（ q ）
dij
()

max
1k p
X ik
X jk
(5.2) (5.3) (5.4)
欧氏距离是常用的距离，大家都比较熟悉，但是前面已经提 到，在解决多元数据的分析问题时，欧氏距离就显示出了它 的不足之处。一是它没有考虑到总体的变异对“距离”远近 的影响，显然一个变异程度大的总体可能与更多样品近些， 既使它们的欧氏距离不一定最近；另外，欧氏距离受变量的 量纲影响，这对多元数据的处理是不利的。为了克服这方面 的不足，可用“马氏距离”的概念。
最小元素的类可以同时合并。
【例5.1】设有六个样品，每个只测量一个指标，分别是1， 2，5，7，9，10，试用最短距离法将它们分类。
（1）样品采用绝对值距离，计算样品间的距离阵D（0） ，见 表5.1
G1
G2
G3
G4
G5
G6
G1
0
G2
1
0
G3
4
3
0
G4
6