当前位置：文档之家 › 第五讲 判别分析

第五讲 判别分析

  • 格式：ppt
  • 大小：4.44 MB
  • 文档页数：94

下载文档原格式

  / 94

合集下载

北大应用多元统计第五章

北大应用多元统计第五章

第五章 §5.1 距离判别法 两总体判别:简例1
简例1 :记二维正态总体N2((i), )为Gi(i=1,2)(两总体
协差阵相同),已知来自Gi(i=1,2)的样本数据阵为
X X (1)
42
3 3 4 21 1 180 0 2,
(2) 32
5 4 39 7 5.n k1 2 4,, n m 2 2 3
例如:在医学诊断中,一个病人肺部有阴影,医生要判 断他是肺结核、肺部良性肿瘤还是肺癌.这里肺结核病 人、良性瘤病人、肺癌病人组成三个总体,病人来源于 这三个总体之一,判别分析的目的是通过测得病人的指 标(阴影的大小,边缘是否光滑,体温多少……)来判断他 应该属哪个总体(即判断他生什么病).
第五章 判别分析
两总体判别: Σ1=Σ2 时的判别方法
对给定样品X，为比较X到各总体的马氏距离， 只须计算Yi(X ) :
第五章 §5.1 距离判别法
两总体判别: Σ1=Σ2 时的判别方法
因为函数Yi(X)是X的线性函数
(i=1,2),故
Ci
第五章 §5.1 距离判别法
两总体判别: Σ1=Σ2 时的判别方法
若考察这两个马氏距离之差,经计算可得:
22
28
X~32 (2) 011 220, A2 (X~(2))X~(2) 22 28
第五章 §5.1 距离判别法 两总体判别:简例1
样本合并组内A为 离差阵
AA1A2 22 2822 2844 146,故
其中
不妨设μ1>μ2 ,则a为正数，W(x)的符号取决于
x>μ或x<μ.
第五章 §5.1 距离判别法
两总体判别: Σ1=Σ2 时的判别方法(m=1时的错判率)

第5章 判别分析_1

第5章 判别分析_1

'
def
2W ( X )
其中
W ( X ) ( X X * )' S 1 ( X (1) X ( 2) ) 1 (1) * X ( X X ( 2) ) 2
则判别准则还可以写为:
判 X G1 , 当W ( X ) 0时 判 X G2 , 当W ( X ) 0时
(2) < (1) ) , 令
(x )
(1) 2

2 1

(x )
( 2) 2

2 2
(1) 2 ( 2) 1 x 1 2
def
*
判 X G1 , x * 而按这种距离最近的判别准则为: 判 X G2 , x *
因只有一个指标,这时判别函数为:Y=Y(x)=x.此例中 * =79,因
表5.1 盐泉的特征数值 K· 3/Cl Br· 3/Cl K· 3/ 盐 10 10 10 (X1) (X2) (X3) 13.85 22.31 28.82 15.29 28.79 2.18 3.85 11.40 3.66 12.10 8.85 28.60 20.70 7.90 3.19 12.40 16.80 15.00 2.79 4.67 4.63 3.54 4.90 1.06 0.80 0.00 2.42 0.00 3.38 2.40 6.70 2.40 3.20 5.10 3.40 2.70 7.80 12.31 16.18 7.50 16.12 1.22 4.06 3.50 2.14 5.68 5.17 1.20 7.60 4.30 1.43 4.43 2.31 5.02
判别分析是用于判别样品所属类型的一种统计分析方
法,是根据表明事物特点的变量值和它们所属的类,求出判

第5章 判别分析

第5章 判别分析
28.79 2.18 3.85 11.40 3.66 12.10 8.85 28.60 20.70 7.90 3.19 12.40
3.54
4.90 1.06 0.80 0.10 2.40 0.01 3.38 2.40 6.70 2.40 3.20 5.10
7.50
16.12 1.22 4.06 3.50 2.14 5.68 5.17 1.20 7.60 4.30 1.43 4.43
（ 当、 (1)、 2） 已知时，令 （ a 1 ( (1) 2）) (a1 , a2 , , a p )
则W ( X )＝（X－ ） a a1 ( x1 1 ) a2 ( 2 ) a p ( x p p ) 显然，W ( X )是x1，x2， ，x p的线性函数。 称W ( X )为线性判别函数。a称为判别系数。
(i )
线性判别函数为： ˆ W ( X ) ( X X ) 1 ( X (1) X ( 2 ) )
我们注意到： 当p 1时，若两个正态总体的分布分别为N ( 1 , 2 )和 2 不妨设1 2，这时W ( X )的符号取决于X 或X 。
2
第五章
判别分析
党耀国
经济与管理学院
Iamdangyg@
判别分析
5．1 判别分析的概念 5．2 距离判别法 5．3 费歇尔判别法 5．4 贝叶斯判别法 5．5 逐步判别法 5．6 实例分析
5．1 判别分析的概念
• 在生产、科研和日常生活中，我们经常需要根据观 测到的数据资料，对所研究的对象进行判别分类，即 是根据历史上划分类别的有关资料和某种最优准则， 确定一种判别方法，判定一个新的样品归属于哪一类。 例如某医院有部分患有肺炎、肝炎、冠心病、高血压、 糖尿病等病人的资料，记录了每个患者若干症状的指 标数据，现在想利用现有的这些资料数据找出一种方 法，使对于一个新的病人，当测得这些症状指标数据 时，能够判断其患有哪一种疾病。在经济学中，根据 人均国民收入、人均工农业总产值、人均消费水平等 多项指标来判断一个国家所处的经济发展阶段。在气 象预报中，根据已有的气象资料（气温、气压、湿度 等）来判断明天、后天是阴天还是晴天，是有雨还是 无雨。在地质学中根据以往对矿物勘探资料（矿石的 化学和物理性质和所含化学成分）的分析，判断某一 矿石把他应归于哪一类矿石。总之，在实际问题中需 要判别的问题几乎无处不在。

判别分析的基本原理

判别分析的基本原理

判别分析的基本原理和模型一、判别分析概述 （一）什么是判别分析判别分析是多元统计中用于判别样品所属类型的一种统计分析方法，是一种在已知研究对象用某种方法已经分成若干类的情况下，确定新的样品属于哪一类的多元统计分析方法。

判别分析方法处理问题时，通常要给出用来衡量新样品与各已知组别的接近程度的指标，即判别函数，同时也指定一种判别准则，借以判定新样品的归属。

所谓判别准则是用于衡量新样品与各已知组别接近程度的理论依据和方法准则。

常用的有，距离准则、Fisher 准则、贝叶斯准则等。

判别准则可以是统计性的，如决定新样品所属类别时用到数理统计的显著性检验，也可以是确定性的，如决定样品归属时，只考虑判别函数值的大小。

判别函数是指基于一定的判别准则计算出的用于衡量新样品与各已知组别接近程度的函数式或描述指标。

（二）判别分析的种类按照判别组数划分有两组判别分析和多组判别分析；按照区分不同总体的所用数学模型来分有线性判别分析和非线性判别分析；按照处理变量的方法不同有逐步判别、序贯判别等；按照判别准则来分有距离准则、费舍准则与贝叶斯判别准则。

二、判别分析方法 （一）距离判别法１．基本思想：首先根据已知分类的数据，分别计算各类的重心，即分组（类）均值，距离判别准则是对于任给一新样品的观测值，若它与第i 类的重心距离最近，就认为它来自第i 类。

因此，距离判别法又称为最邻近方法（nearest neighbor method ）。

距离判别法对各类总体的分布没有特定的要求，适用于任意分布的资料。

２．两组距离判别两组距离判别的基本原理。

设有两组总体B A G G 和，相应抽出样品个数为21,n n ，n n n =+)(21，每个样品观测p 个指标得观测数据如下，总体A G 的样本数据为：()()()()()()()()()A x A x A x A x A x A x A x A x A x p n n n p p 111212222111211该总体的样本指标平均值为：()()()A x A x A x p 21,总体B G 的样本数据为：()()()()()()()()()B x B x B x B x B x B x B x B x B x p n n n p p 222212222111211该总体的样本指标平均值为：()()()B x B x B x p 21,现任取一个新样品X ，实测指标数值为X =（p x x x ,,,21 ），要求判断X 属于哪一类？首先计算样品X 与A G 、B G 两类的距离，分别记为()A G X D ,、()B G X D ,，然后按照距离最近准则判别归类，即样品距离哪一类最近就判为哪一类；如果样品距离两类的距离相同，则暂不归类。

5.判别分析和分类分析-讲解（下）

5.判别分析和分类分析-讲解（下）

目录定义和应用判别分析和分类分析介绍两群体Fisher线性判别分析多群体Fisher线性判别分析判别分析：分类规则两群体Fisher分类两群体贝叶斯分类多群体分类分类分析：分类结果分类分析判别分析旨在寻找一种分类规则，而分类分析更进一步：将新的观察对象分到一个合适的类别——即在分析过程中进行的预测回想前面贷款的例子，银行需要决定是否同意申请者的贷款，最终目标是判断新申请者是属于“按时还款组”还是“倾向违约组”假设：分类思想：两个群体 和 有相同的协方差矩阵 ，并且基于Fisher判别函数 ，比较新个体转化后所得 与均值转化后 和 的距离，如果那么 和 更近，应被归为 ，反之，应被归为 .定理：如果那么将新观察对象 分为类别如果那么将 分为类别真实数据中，任何分类法则通常都不能完全正确地分类。

我们可以用如下表格表示总错分率（Total probability of misclassification, TPM）例：“今天”和“昨天”的湿度差（ ）和温度差（ ）是用来预测“明天”是否会下雨的两个很重要的因素雨天组别晴天组别绘制数据散点图：用Fisher‘s LDA分类：因此，判别函数为我们可以用模型回测现有样本计算总错分率（TPM）从箱线图可以看出Fisher‘s LDA分类效果很好如果我们得知今天的数据是 ，如何预测明天的天气？按照Fisher's LDA模型的结果，明天应该是雨天从数学角度来看，很容易发现Fisher分配法则在做的事情，实际上是在比较新观测对象 与 、 间的马氏距离。

即如果相较于 ， 与 更近，那么把 分到 ：反之，分到由于我们没有对分布作假设，因此 Fisher 法则是一种非参数方法，但是当样本是正态分布或者有线性趋势，LDA能表现的更好。

如下非线性分类问题中，Fisher判别分析就失效了。

目录定义和应用判别分析和分类分析介绍两群体Fisher线性判别分析多群体Fisher线性判别分析判别分析：分类规则两群体Fisher分类两群体贝叶斯分类多群体分类分类分析：分类结果贝叶斯分类动机•通常，一家公司陷入财务困境并最终破产的（先验）概率很小，所以我们应该首先默认一家随机选择的公司不会破产，除非数据压倒性地支持公司将会破产这一事件。

判别分析Discriminant Analysis

判别分析Discriminant Analysis

(1)有无某种疾病 例:计算机用于胃癌普查,用于中风预报. (2)疾病的鉴别诊断 例:计算机用于对肺癌,肺结核和肺炎进行鉴别诊断. (3)患有某疾病中的哪一种或哪一型 例:鉴别诊断单纯性或绞窄性肠梗阻. 鉴别诊断阑尾炎中的卡他性,蜂窝织炎, 坏疽性和腹膜炎.
用一个实例来说明判别分析的基本思想
2. 判别分析步骤 欲用显微分光光度计对病人细胞进行检查以判断 病人是否患有癌症. (1)根据研究目的确定研究对象(样本)及所用指标 例:110例癌症病人和190例正常人. 指标:X1,X2和X3. X1: 三倍体的得分,X2: 八倍体的得分,X3: 不 整倍体的得分.(0-10分)
考虑事前概率可适当提高判别的敏感性. 事前概率可据于文献报道或以往的大样本研 究.但是困难在于事前概率往往不容易知道; 如果训练样本是从所研究的总体中随机抽取 的,则可用训练样本中各类的发生频率Q(Yj) 来估计各类别的事前概率q(Yj).如果事前概 率未知,而又不可以用Q(Yj)来估计q(Yj),就 只能将事前概率取为相等值,即取q(Yj)=1/g.
训练样本的数据内容与符号 ——————————————————————————————————— 解释变量 个体号 ——————————————————————— 类别变量(Y) X1 X2 … Xj … XP ——————————————————————————————————— 1 X11 X12 … X1j … X1P y1 2 X22 X22 … X2j … X2P y2 … … … … … … … … i Xi1 Xi2 … Xij … XiP y3 … … … … … … … … n Xn1 Xn2 … Xnj … XnP yP ————————————————————————————————————

第五章 判别分析(第1、2节 绪论、距离判别法)


第二节 距离判别法
□ 马氏距离
设 p 维 欧 氏 空 间 R p 中 的 两 点 X ( X 1 , X 2 ,, X p ) 和
Y (Y1 , Y2 ,, Yp
氏距离，即
d ( X, Y) 2 ( X 1 Y1 ) 2 ( X p Yp ) 2 .
它是 X 的二次函数，相应的判别规则为
X G1 , X G2 ,
如果 如果
W *(X ) 0 W *(X ) 0
第二节 距离判别法
我们用p=1时的特殊情形，说明两总体协方差不等时的归类过程。假定两总体为正态总体: 并假定 ，这时 ，当观测值x满足条件： 时，
2 1 2 x 1 x 2 x 1 1 2 d 2 ( x) d1 ( x) ( x * ), 2 1 1 2
第二节 距离判别法
（2） 当 1 2 ， 1 2 时，我们采用（*）式作为判别规 则的形式。选择判别函数为
W * ( X ) D 2 ( X , G1 ) D 2 ( X , G2 )
( X 1 )1 1 ( X 1 ) ( X 2 )21 ( X 2 )
这里
1 n1 (1) X (1) X i n1 i 1
( 2)
S ( X i( ) X ( ) )( X i( ) X ( ) ),
i 1
n
1, 2
第二节 距离判别法
此时，两总体距离判别的判别函数为 其中 X
*
ˆ ˆ W ( X ) ( X X * )
G2 : N (75,4)
P(1 | 2)
第二节 距离判别法
P(2 | 1) P(1 | 2) P(Y ) (Y ~ N ( 2 , 2 )) Y 2 2 2 2 ) P( Z ) 1 ( ) 1 2 2 1 2 2 1 ( ) 1 ( ) 2 从错判概率公式 可看出，当两个总体的均值相差甚微，即 越小， 1 2 P(2 |1) P(1| 2) 1 ( ) 错判概率变得越大，这时作判别分析没有意义。因此只有当两个总体的均值有显著性差异时，做判别 2 分析才有意义。 | 1 2 | P(

判别分析-贝叶斯判别


判归哪一类（取. q1
q2
q3
1 ,C( 3
j
|
i)
1,i 0,i
j） j
P(好人 / 做好事）
P好人P做好事 / 好人 P好人P(做好事 / 好人) P(坏人)P(做好事
/
坏人)
0.5 0.9
0.82
0.5 0.9 0.5 0.2
P(坏人 / 做好事）
P坏人P做好事 / 坏人 P好人P(做好事 / 好人) P(坏人)P(做好事
/
坏人)
0.5 0.2
0.18
0.5 0.9 0.5 0.2
D1，D2，… ，Dk是R(p)的一个分划，判别法则为：
当样品X落入Di时，判 X Di i 1,2,3,,k
关键的问题是寻找D1，D2，… ，Dk分划，这 个分划应该使平均错判率最小。
【定义】（平均错判损失）
用 p( j / i) 表示将来自总体Gi的样品错判到总体 Gj的条件概率。
p( j / i) P( X Dj / Gi ) fi (x)dx i j
1 (x μ(i) )Σ1(x μ(i) ) 2
1 [2 ln 2
qi
(x
μ(i)
)Σ 1 (x
μ(i) )]
令 Fi (x) 2ln qi (x μ(i) )Σ1(x μ(i))
2 ln qi x' Σ1x μ(i)' Σ1x x' Σ1μ(i) μ(i)' Σ1μ(i)
令 Pi (x) 2ln qi 2μ(i)Σ1x μ Σ μ (i) 1 (i)
D1
q1C(2 /1) q1C(2 /1) f1(x)dx
D1
q2C(1/ 2) f2 (x)dx

判别分析完整课件

D ( y(1) y( 2) )(n1 n2 2) ( ci di )(n1 n2 2)
2 i 1 m
m为判别指标数，根据自由度查F(m,n1+n2-m-1)。
（三）确定判别临界值
确定两类的判别临界值（即两类的分界点）yc， 据此对未知样本作出判断。
yc
n1 y(1) n2 y( 2 ) n1 n2
在医学科研资料中经常遇到指标变量不呈正态分 布或难以满足参数判别分析的要求，特别是有些 变量是分类变量，不可能服从正态分布，可以用 Logistic回归分析的方法。
实际资料中一般含有较多的指标，有些指标可能 对鉴别不同的类别毫无用处，或指标间彼此相关的情 况时不应该用所有的指标都参与建判别函数。所以， 在建函数之前，先进行变量筛选是很有必要的，即逐 步判别分析,此法建立的函数更简洁，效果也更好。 此外,对于某些指标间存在彼此相关的情况时, 先对众多的指标进行聚类，从聚成的几大类中各挑选 一个最有代表性的指标，用这些典型指标建立判别函 数。 逐步回归、判别分析、聚类分析等方法可以联合 应用。
y ci xi
i 1 n
2
n1
(y
i 1
n2
i ( 2)
y( 2 ) )
2
y(1) ck xk (1)
k 1
n1
y( 2) ck xk ( 2)
k 1
n2
根据求极值的原理，求I对判别系数Ci的偏导数，使其等 于零，得到下列方程组：
f11C1+f12C2+……f1mCm=d1 f21C1+f22C2+……f2mCm=d2 ……… …… …… ……… ….. fm1C1+fm2C2+……fmmCm=dm 其中， di

多元统计第五章判别分析

第五章 判别分析
第一节 引言
在我们的日常生活和工作实践中，常常会遇到判别分析问题。
案例一：为了研究中小企业的破产模型，选定4个经济指标：总负债率、
收益性指标、短期支付能力、生产效率性指标。对17个破产企业（1类）和21
个正常运行企业（2类）进行了调查，得关于上述四个指标的资料。现有8个 未知类型的企业的四个经济指标的数据，判断其属于破产企业一类还是正 常运行企业一类？ 案例二：根据经验，今天与昨天的湿度差x1及今天的压温差x2 （气压与温度
ˆ Σ
1 A ， n 1
1,2,, k
三、判别分析的实质
设R1，R2，…，Rk是p维空间R p的k个子集，如果它们互
不 相交，且它们的和集为R p，则称R1，R2， …，Rk为R p的一 个划分。
在 两 个 总 体 的 距 离 判 别 问 题 中 ， 利 用
W (X) (X μ)' α 可以得到空间 R p 的一个划分 R1 {X : W ( X) 0} R2 {X : W ( X) 0}
x2
-0.41 -0.31 0.02 -0.09 -0.09 -0.07 0.01 -0.06 -0.01 -0.14 -0.3 0.02 0 -0.23 0.05 0.11 -0.08 0.03 0 0.11 -0.27
x3
1.09 1.51 1.01 1.45 1.56 0.71 1.5 1.37 1.37 1.42 0.33 1.31 2.15 1.19 1.88 1.99 1.51 1.68 1.26 1.14 1.27
Σ 的一个联合无偏估计为
n
n2 1 和 X(2) Xi(2) n2 i 1 1 ˆ Σ ( A1 A2 ) n1 n2 2
  1. 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。

天行健，君子以自强不息。
地势坤，君子以厚德载物。
常用的判别方法
一 距离判别 二 Fisher判别 三 Bayes判别
四 逐步判别
天行健，君子以自强不息。
地势坤，君子以厚德载物。
距离判别
1.
2.
判别准则 根据各类的 ng 个样本，求出每类的中 心坐标 再根据新样品离开每个类中心的距离 远近作出它属于哪一类的判断

xi(g) =(xi1 (g), xi2 (g), …, xip (g) ) ′

对p维空间作出一个划分：D1, D2,…, DG互不相交 或者构造一个判别函数：u(x1, x2,…, xp) 以u(x1, x2,…, xp)作为新样品所属类型的判断
天行健，君子以自强不息。 地势坤，君子以厚德载物。
地势坤，君子以厚德载物。
天行健，君子以自强不息。
引言

把这类问题用数学语言来表达，可以叙述如下： 设有n个样本，对每个样本测得p项指标（变量） 的数据，已知每个样本属于k个类别（或总体）G1， G2， …，Gk中的某一类，且它们的分布函数分别为 F1(x)，F2(x)， …，Fk(x)。我们希望利用这些数据， 找出一种判别函数，使得这一函数具有某种最优性 质，能把属于不同类别的样本点尽可能地区别开来， 并对测得同样p项指标（变量）数据的一个新样本， 能判定这个样本归属于哪一类。
天行健，君子以自强不息。 地势坤，君子以厚德载物。
天行健，君子以自强不息。
地势坤，君子以厚德载物。
天行健，君子以自强不息。
地势坤，君子以厚德载物。
天行健，君子以自强不息。
地势坤，君子以厚德载物。
天行健，君子以自强不息。
地势坤，君子以厚德载物。
引言
判别分析与聚类分析的联系与区别

都要求对样本进行分类，但分析的内容和要求不 一样
设 X 和 Y 是来自均值向量为 μ ，协方差为 Σ( 0) 的总体 G 中的 p 维样本，则总体 G 内两点 X 与 Y 之间的马氏距离定 义为
D2 (X, Y) (X Y)Σ1 ( X Y) (4.2) 定义点 X 到总体 G 的马氏距离为 D 2 ( X, G) ( X μ)Σ1 ( X μ) (4.3) 这里应该注意到，当 Σ I （单位矩阵）时，即为欧氏距离
天行健，君子以自强不息。 地势坤，君子以厚德载物。

实际处理方法


在每一个总体中取一个容量为ng的样本 (g=1,2,…,G )， 然后根据已知类别的样本所提供的信息，判断 新的样本点属于哪一类
天行健，君子以自强不息。
地势坤，君子以厚德载物。
一般判别分析的模型

需要判别的类型有G类，起判别作用的因子有p个： (x1, x2,…, xp),从第g类中取得 n g 个样品，其第 i 个 样品的 p个判别因子的取值为：
在实际应用中，总体的均值和协方差矩阵一般是未知的，可由样 本均值和样本协方差矩阵分别进行估计。设 X1 , , X n1 来自总 体 G1 的样本， X1 , , X n2 是来自总体 G 2 的样本， μ 1 和 μ 2 的 一个无偏估计分别为
天行健，君子以自强不息。 地势坤，君子以厚德载物。
i 1
1, 2
此时，两总体距离判别的判别函数为
ˆ ( X) α ˆ ( X X) W
1 (1) (2) ˆ 1 ( X(1) X(2) ) 。这样，判别规则为 ˆ Σ 其中 X ( X X ) ， α 2 ˆ ( X) 0 X G1 , 如果 W （4.7） ˆ ( X) 0 X G , 如果 W 2

聚类分析事先并不知道存在什么类别，完全按照反映 对象特征的数据把对象进行分类 判别分析是在事先有了某种分类标准之后，判定一个 新的研究对象应该归属到哪一类别

某些思想和方法相同 两者往往结合起来使用

当分类不清楚时，可以先用聚类分析对原有样品进行 分类，然后再用判别分析建立判别函数以对新样品进 行归类
天行健，君子以自强不息。
地势坤，君子以厚德载物。
1 其 中 μ (μ1 μ 2 ) 是 两 个 总 体 均 值 的 平 均 值 ， 2 α Σ 1 (μ1 μ 2 ) ，记 （ 4.5） W (X) α(X μ)
则判别规则（4.4）式可表示为
X G1 , 如果 W ( X) 0 （ 4.6） X G2 , 如果 W ( X) 0 这里称 W ( X) 为两总体距离判别的判别函数， 由于它是 X 的线性 函数，故又称为线性判别函数， α 称为判别系数。
天行健，君子以自强不息。
地势坤，君子以厚德载物。
数学模型（概率论的角度）



模型： G个总体：ξ1 ,ξ2 ,… ,ξg ,… ,ξG 其中ξg 是 p 维随机变量 对应的分布函数 Fg (x1, x2,…, xp) g=1,2,…,G (x1, x2,…, xp)是表征总体特性的p维随机变量的取值， 在判别分析中称之为判别因子。 现有一个新的样本点 x =(x1 , x2 ,… , xp )’ 要判断此样本点是属于哪一个总体的？ 假如能掌握每一个总体ξg的分布规律或某些数字特 征，则这类问题的解决是不难的
天行健，君子以自强不息。 地势坤，君子以厚德载物。
这里我们应该注意到：
（ 1 ） 当 p 1 ， G1 和 G 2 的 分 布 分 别 为 N ( 1 , 2 ) 和
1 2 系数为 0 ，判别函数为 2 W ( x) ( x )
天行健，君子以自强不息。
地势坤，君子以厚德载物。
20
10
0
-10
U
1
X2
-20 -20 -10 0 10
0
天行健，君子以自强不息。
X1
地势坤，君子以厚德载物。
20
10
D2---非雨区
U(x1,x2)
新样本点
0
-10
D1---雨区
X2
-20 -20 -10 0 10 20
X1
天行健，君子以自强不息。 地势坤，君子以厚德载物。
X G1 , X G2 ,
如果 如果
D 2 ( X, G1 ) D 2 ( X, G2 ) D ( X, G1 ) D ( X, G2 )
2 2
（4.4）
这个判别规则的等价描述为：求新样品X到G1的距离与到 G2的距离之差，如果其值为正，X属于G2；否则X属于G1。
天行健，君子以自强不息。 地势坤，君子以厚德载物。
(2) (2) (1) (1)
X(1)
1 n1 (1) Xi n1 i 1
Σ 的一个联合无偏估计为
n
n2 1 和 X (2) Xi(2) n2 i 1 1 ˆ Σ (S1 S 2 ) n1 n2 ) )( Xi( ) X( ) ),
实例分析

经济学中的应用
中小企业的破产模型 为了研究中小企业的破产模型，选定4个经济指标：

X1总负债率（现金收益/总负债） X2收益性指标（纯收入/总财产） X3短期支付能力（流动资产/流动负债） X4生产效率性指标（流动资产/纯销售额）


对17个破产企业（1类）和21个正常运行企业（2类） 进行了调查，得关于上述四个指标的资料 现有8个未知类型的企业的四个经济指标的数据，判 断其属于破产企业一类还是正常运行企业一类？


在天气预报中，依据某地区较长时间段的日气象记录资 料（晴阴雨、气温、气压、湿度等），来预报明天的天 气。 预测新产品的成功或失败 确定某人信用风险的种类
地势坤，君子以厚德载物。
天行健，君子以自强不息。
实例分析
根据经验，今天与昨天的湿度差x1及今 天的压温差（气压与温度之差） x2是预报 明天下雨或不下雨的两个重要因素。 今测得x1=8.1，x2=2.0，试问应预报明天 下雨还是预报明天不下雨？
实例分析


这是一个最简单的判别分析问题 由判别因子x1和x2： 将二维样本空间划分成两个互不相交的区域D1 和D2，根据新样品判别因子的观察值，若它落 在区域Di，就判该样品属于i类 构造一个判别函数u(x1,x2)，然后根据新样品的 函数值判断其属于哪一类
天行健，君子以自强不息。
地势坤，君子以厚德载物。
第五讲 判别分析 Discriminant Analysis
沈琪
shenqi@
引言
在我们的日常生活和工作实践中，常会遇到一 些需要根据历史上划分类别的有关资料和某种最优 准则，来判定一个新的样本归属哪一类的问题。
例如，

医生依据患者若干项症状指标数据。判定一个新的病人 患有哪种疾病。
天行健，君子以自强不息。 地势坤，君子以厚德载物。
图4.1
天行健，君子以自强不息。
地势坤，君子以厚德载物。
第二、 设有量度重量和长度的两个变量 X 与 Y ， 以单位分别 为 kg 和 cm 得到样本 A(0,5) ，B(10,0) ， C (1,0) ，D(0,10) 。 今按照欧氏距离计算，有

引言



判别分析是一种进行统计判别和分组的技术手段。 判别分析与聚类分析的不同之处在于判别分析带有 “预测”意义。 判别分析的目的就是从现有已知类别的样本数据中 训练出一个判别函数，以后再有未知类别的数据进 入，就利用建立的函数来判断其类别（判别规则）。 各类判别问题的前提有所不同，进行划分或寻找判 别函数的准则也可以不同，判别分析的方法有：距 离判别，费歇判别，贝叶斯判别等。
（ 4.1）
在解决实际问题时，特别是针对多元数据的分析问题，欧氏距离 就显示出了它的薄弱环节。 第一、设有两个正态总体， X ~ N ( 1 , ) 和 Y ~ N ( 2 ,4 ) ，