判别分析
判别分析是利用原油的分类信息，得到判别函数（判别函数是这种分类函数关系式，一般是与分类相关的若干个指标的线性关系式），然后利用该函数去判断未知样品属于哪一类。
常用的判别分析方法有：距离判别法、费歇尔判别法、贝叶斯判别法等。
在Matlab软件包中，将已经分类的m个数据（长度为n)作为行向量，得到一个矩阵trianing，每行都属于一个分类类别，分类类别构成一个整数列向量g(共有m行），待分类的k个数据（长度为n）作为行向量，得到一个矩阵sample，然后利用classify函数进行线性判别分析（默认）。它的格式为
classify(sample, training, group)
training=[]；%已知数据
group=[]; %已知数据的分类
sample=[]; %待分类样品
class= classify(sample, training, group) %输出样品分类
较复杂的格式：
[class,err]= classify(sample, training, group,’type’) %输出样品分类
其中：class 返回分类表；err 返回误差比例信息；sample 样本数据矩阵；training 已有的分类数据矩阵；group 分类列向量；type有三种选择：
type=linear（默认设置）表示进行线性判别分析；
type=quadratic 表示进行二次判别分析；
type=mahalanobis 表示用马氏距离进行判别分析。
例：某地大气样品污染分类表如下：
气体氯硫化氢二氧化硫碳4 环氧氯丙烷环己烷污染分类
1 0.056 0.084 0.031 0.038 0.008 0.02
2 1
2 0.038 0.130 0.079 0.170 0.058 0.430 2
3 0.050 0.07
4 0.041 0.048 0.007 0.020 1
4 0.04
5 0.050 0.110 0.100 0.025 0.00
6 1
5 0.040 0.055 0.100 0.110 0.022 0.007 1
6 0.030 0.110 0.070 0.160 0.050 0.046 2
7 0.034 0.095 0.058 0.160 0.200 0.029 1
8 0.084 0.066 0.029 0.032 0.012 0.041 2
9 0.064 0.072 0.020 0.250 0.028 0.038 2
10 0.069 0.087 0.027 0.050 0.089 0.021 1
1 0.05
2 0.084 0.021 0.037 0.007 0.022
2 0.041 0.055 0.110 0.110 0.021 0.007
3 0.030 0.112 0.072 0.160 0.056 0.021
4 0.074 0.083 0.10
5 0.190 0.020 1
training=[0.056 0.084 0.031 0.038 0.008 0.022
0.038 0.130 0.079 0.170 0.058 0.430
0.050 0.074 0.041 0.048 0.007 0.020
0.045 0.050 0.110 0.100 0.025 0.006
0.040 0.055 0.100 0.110 0.022 0.007
0.030 0.110 0.070 0.160 0.050 0.046
0.034 0.095 0.058 0.160 0.200 0.029
0.084 0.066 0.029 0.032 0.012 0.041
0.064 0.072 0.020 0.250 0.028 0.038
0.069 0.087 0.027 0.050 0.089 0.021]; %已知数据group=[1;2;1;1;1;2;1;2;2;1]; %已知数据的分类sample=[0.052 0.084 0.021 0.037 0.007 0.022
0.041 0.055 0.110 0.110 0.021 0.007
0.030 0.112 0.072 0.160 0.056 0.021
0.074 0.083 0.105 0.190 0.020 1]; %待分类样品class=classify(sample,training,group) %输出样品分类
class =
1
1
2
2
为研究1991年中国城镇居民月平均收入状况，按标准化欧氏平方距离、离差平方和聚类方法将30个省、市、自治区．分为三种类型。试建立判别函数，判定广东、西藏分别属于哪个收入类型。判别指标及原始数据见表9-4。 1991年30个省、市、自治区城镇居民月平均收人数据表 单位：元／人 x1：人均生活费收入 x6：人均各种奖金、超额工资(国有+集体) x2：人均国有经济单位职工工资 x7：人均各种津贴(国有+集体) x3：人均来源于国有经济单位标准工资 x8：人均从工作单位得到的其他收入 x4：人均集体所有制工资收入 x9：个体劳动者收入 5
贝叶斯判别的SPSS操作方法： 1. 建立数据文件 2．单击Analyze→ Classify→ Discriminant，打开Discriminant Analysis 判别分析对话框如图1所示： 图1 Discriminant Analysis判别分析对话框 3．从对话框左侧的变量列表中选中进行判别分析的有关变量x1~x9进入Independents 框，作为判别分析的基础数据变量。 从对话框左侧的变量列表中选分组变量Group进入Grouping Variable 框，并点击Define Range...钮，在打开的Discriminant Analysis: Define Range对话框中，定义判别原始数据的类别数，由于原始数据分为3类，则在Minimum（最小值）处输入1，在Maximum（最大值）处输入3（见图2）。。 选择后点击Continue按钮返回Discriminant Analysis主对话框。 图2 Define Range对话框 4、选择分析方法 Enter independent together 所有变量全部参与判别分析（系统默 认）。本例选择此项。 Use stepwise method 采用逐步判别法自动筛选变量。
Logistic回归分析简介 Logistic回归：实际上属于判别分析，因拥有很差的判别效率而不常用。1．应用范围： ①适用于流行病学资料的危险因素分析 ②实验室中药物的剂量-反应关系 ③临床试验评价 ④疾病的预后因素分析 2．Logistic回归的分类： ①按因变量的资料类型分： 二分类 多分类 其中二分较为常用 ②按研究方法分： 条件Logistic回归 非条件Logistic回归 两者针对的资料类型不一样，后者针对成组研究，前者针对配对或配伍 研究。 3．Logistic回归的应用条件是： ①独立性。各观测对象间是相互独立的； ②LogitP与自变量是线性关系； ③样本量。经验值是病例对照各50例以上或为自变量的5-10倍（以10倍 为宜），不过随着统计技术和软件的发展，样本量较小或不能进行似然
估计的情况下可采用精确logistic回归分析，此时要求分析变量不能太多，且变量分类不能太多； ④当队列资料进行logistic回归分析时，观察时间应该相同，否则需考虑观 察时间的影响（建议用Poisson回归）。 4．拟和logistic回归方程的步骤： ①对每一个变量进行量化，并进行单因素分析； ②数据的离散化，对于连续性变量在分析过程中常常需要进行离散变成等 级资料。可采用的方法有依据经验进行离散，或是按照四分、五分位数 法来确定等级，也可采用聚类方法将计量资料聚为二类或多类，变为离 散变量。 ③对性质相近的一些自变量进行部分多因素分析，并探讨各自变量（等级 变量，数值变量）纳入模型时的适宜尺度，及对自变量进行必要的变量 变换； ④在单变量分析和相关自变量分析的基础上，对P≤α（常取0.2，0.15或 0.3）的变量，以及专业上认为重要的变量进行多因素的逐步筛选；模型 程序每拟合一个模型将给出多个指标值，供用户判断模型优劣和筛选变 量。可以采用双向筛选技术：a进入变量的筛选用score统计量或G统计 量或LRS(似然比统计量)，用户确定P值临界值如：0.05、0.1或0.2，选 择统计量显著且最大的变量进入模型；b剔除变量的选择用Z统计量(Wald 统计量)，用户确定其P值显著性水平，当变量不显者，从模型中予以剔 除。这样，选入和剔除反复循环，直至无变量选入，也无变量删除为止，选入或剔除的显著界值的确定要依具体的问题和变量的多寡而定，一般
第六章 判别分析 §6.1 什么是判别分析 判别分析是判别样品所属类型的一种统计方法，其应用之广可与回归分析媲美。 在生产、科研和日常生活中经常需要根据观测到的数据资料，对所研究的对象进行分类。例如在经济学中，根据人均国民收入、人均工农业产值、人均消费水平等多种指标来判定一个国家的经济发展程度所属类型；在市场预测中，根据以往调查所得的种种指标，判别下季度产品是畅销、平常或滞销；在地质勘探中，根据岩石标本的多种特性来判别地层的地质年代，由采样分析出的多种成份来判别此地是有矿或无矿，是铜矿或铁矿等；在油田开发中，根据钻井的电测或化验数据，判别是否遇到油层、水层、干层或油水混合层；在农林害虫预报中，根据以往的虫情、多种气象因子来判别一个月后的虫情是大发生、中发生或正常； 在体育运动中，判别某游泳运动员的“苗子”是适合练蛙泳、仰泳、还是自由泳等；在医疗诊断中，根据某人多种体验指标（如体温、血压、白血球等）来判别此人是有病还是无病。总之，在实际问题中需要判别的问题几乎到处可见。 判别分析与聚类分析不同。判别分析是在已知研究对象分成若干类型（或组别）并已取得各种类型的一批已知样品的观测数据，在此基础上根据某些准则建立判别式，然后对未知类型的样品进行判别分类。对于聚类分析来说，一批给定样品要划分的类型事先并不知道，正需要通过聚类分析来给以确定类型的。 正因为如此，判别分析和聚类分析往往联合起来使用，例如判别分析是要求先知道各类总体情况才能判断新样品的归类，当总体分类不清楚时，可先用聚类分析对原来的一批样品进行分类，然后再用判别分析建立判别式以对新样品进行判别。 判别分析内容很丰富，方法很多。判别分析按判别的组数来区分，有两组判别分析和多组判别分析；按区分不同总体的所用的数学模型来分，有线性判别和非线性判别；按判别时所处理的变量方法不同，有逐步判别和序贯判别等。判别分析可以从不同角度提出的问题，因此有不同的判别准则，如马氏距离最小准则、Fisher 准则、平均损失最小准则、最小平方准则、最大似然准则、最大概率准则等等，按判别准则的不同又提出多种判别方法。本章仅介绍四种常用的判别方法即距离判别法、Fisher 判别法、Bayes 判别法和逐步判别法。 §6.2 距离判别法 基本思想：首先根据已知分类的数据，分别计算各类的重心即分组（类）的均值，判别准则是对任给的一次观测，若它与第i 类的重心距离最近，就认为它来自第i 类。 距离判别法，对各类（或总体）的分布，并无特定的要求。 1 两个总体的距离判别法 设有两个总体（或称两类）G 1、G 2，从第一个总体中抽取n 1个样品，从第二个总体中抽取n 2个样品，每个样品测量p 个指标如下页表。 今任取一个样品，实测指标值为),,(1'=p x x X ，问X 应判归为哪一类？ 首先计算X 到G 1、G 2总体的距离，分别记为),(1G X D 和),(2G X D ，按距离最近准则
实验指导之二 判别分析的SPSS软件的基本操作 [实验例题]为研究1991年中国城镇居民月平均收入状况，按标准化欧氏平方距离、离差平方和聚类方法将30个省、市、自治区．分为三种类型。试建立判别函数，判定广东、西藏分别属于哪个收入类型。判别指标及原始数据见表9-4。 1991年30个省、市、自治区城镇居民月平均收人数据表 单位：元／人 x1：人均生活费收入 x6：人均各种奖金、超额工资(国有+集体) x2：人均国有经济单位职工工资 x7：人均各种津贴(国有+集体) x3：人均来源于国有经济单位标准工资 x8：人均从工作单位得到的其他收入 x4：人均集体所有制工资收入 x9：个体劳动者收入 x5：人均集体所有制职工标准工资
贝叶斯判别的SPSS操作方法： 1. 建立数据文件 2．单击Analyze→Classify→Discriminant，打开Discriminant Analysis判别分析对话框如图1所示： 图1 Discriminant Analysis判别分析对话框 3．从对话框左侧的变量列表中选中进行判别分析的有关变量x1~x9进入Independents 框，作为判别分析的基础数据变量。 从对话框左侧的变量列表中选分组变量Group进入Grouping Variable 框，并点击Define Range...钮，在打开的Discriminant Analysis: Define Range 对话框中，定义判别原始数据的类别数，由于原始数据分为3类，则在Minimum（最小值）处输入1，在Maximum（最大值）处输入3（见图2）。。 选择后点击Continue按钮返回Discriminant Analysis主对话框。 图2 Define Range对话框 4、选择分析方法
聚类和判别分析 SPSS(中文版)统计分析实用教程(第版)电子工业出版社*第九章聚类和判别分析SPSS(中文版)统计分析实用教程(第版)电子工业出版社*主要内容聚类和判别分析简介二阶聚类K均值聚类系统聚类判别分析SPSS(中文版)统计分析实用教程(第版)电子工业出版社*聚类和判别分析简介基本概念()聚类分析聚类分析的基本思想是找出一些能够度量样本或指标之间相似程度的统计量以这些统计量为划分类型的依据把一些相似程度较大的样本（或指标）聚合为一类把另外一些彼此之间相似程度较大的样本又聚合为一类。 根据分类对象的不同聚类分析可分为对样本的聚类和对变量的聚类两种。 ()判别分析判别分析是判别样本所属类型的一种统计方法。 SPSS(中文版)统计分析实用教程(第版)电子工业出版社*聚类和判别分析简介基本概念()二者区别不同之处在于判别分析是在已知研究对象分为若干类型（或组别）并已取得各种类型的一批已知样本的观测量数据的基础上根据某些准则建立判别式然后对未知类型的样本进行差别分析。 SPSS(中文版)统计分析实用教程(第版)电子工业出版社*样本间亲疏关系的度量()连续变量的样本间距离常用度量主要方法有欧氏距离（EuclideanDistance）、欧氏平方距离（SquaredEuclideanDistance）、切比雪夫距离（ChebychevDistance）、明可斯基距离（MinkowskiDistance）、用户自定义距离（CustomizeDistance）、Pearson
相关系数、夹角余弦（Cosine）等。 （公式见教材表）()顺序变量的样本间距离常用度量常用的有统计量（Chisquaremeasure）和统计量（Phisquaremeasure）。 具体计算公式参见节表。 聚类和判别分析简介SPSS(中文版)统计分析实用教程(第版)电子工业出版社*主要内容聚类和判别分析简介二阶聚类K均值聚类系统聚类判别分析SPSS(中文版)统计分析实用教程(第版)电子工业出版社*二阶聚类基本概念及统计原理（）基本概念二阶聚类（TwoStepCluster）（也称为两步聚类）是一个探索性的分析工具（）为揭示自然的分类或分组而设计是数据集内部的而不是外观上的分类。 它是一种新型的分层聚类算法（HierarchicalAlgorithms）,目前主要应用到数据挖掘（DataMining）和多元数据统计的交叉领域模式分类中。 该过程主要有以下几个特点：分类变量和连续变量均可以参与二阶聚类分析该过程可以自动确定分类数可以高效率地分析大数据集用户可以自己定制用于运算的内存容量。 SPSS(中文版)统计分析实用教程(第版)电子工业出版社*二阶聚类基本概念及统计原理（）统计原理两步法的功能非常强大而原理又较为复杂。 他在聚类过程中除了使用传统的欧氏距离外为了处理分类变量和连续变量它用似然距离测度它要求模型中的变量是独立的分类变量
判别分析法 一、筛选变量 1、通过单因素方差分析剔除不显著变量：在SPSS软件中建立变量和已知数据表，通过Analyze-Classify-Discriminant进入判别分析对话框，由题意知分组变量group即为因变量，其范围定义为：最小值1，最大值2。自变量为X1、X 2、X 3、X4，通过勾选Statistics选项中的单因素方差分析得到表3-1如下 3-1 由表中可看出收益性指标（X2）和生产效率指标（X4）的显著性水平均大于0.05，接受原假设，即这两个判别变量在各组间差异不显著，所以剔除X2、X4。 2、对判别变量选择逐步进入，得到表3-2至3-4 （3-2） （3-3）
（3-4） 表3-2至3-3表示逐步判别法中每一步进入的变量；表3-4表示最终删除的变量，通过上表可以明显地看出最终删除的变量是收益性指标（X2）和生产效率指标（X4）。 二、判别分析 1.Box’s 检验：通过第一步将不显著变量剔除后，在SPSS软件中勾选Box’s M判断协方差阵是否相等，得到表3-5和3-6 （3-5） （3-6） 表3-5反映的是协方差矩阵的秩和行列式的对数值，由行列式的值可以看出，协方差阵不是病态矩阵。由表3-6可以看出总体协方差矩阵检验的P值0.01＜0.05，拒绝原假设，即总体协方差阵不相等。所以将Winthin-groups换为Separate-groups看两种协方差阵是否存在显著差异，结果表明两种方法没有差异，因此任选一种继续进行判别。
2、Fisher判别 通过在软件中选择非标准化判别得到表3-7至3-12 （3-7） （3-8） （3-9） （3-10） （3-11）
判别分析的基本原理
判别分析的基本原理和模型 一、判别分析概述 （一）什么是判别分析 判别分析是多元统计中用于判别样品所属类型的一种统计分析方法，是一种在已知研究对象用某种方法已经分成若干类的情况下，确定新的样品属于哪一类的多元统计分析方法。 判别分析方法处理问题时，通常要给出用来衡量新样品与各已知组别的接近程度的指标，即判别函数，同时也指定一种判别准则，借以判定新样品的归属。所谓判别准则是用于衡量新样品与各已知组别接近程度的理论依据和方法准则。常用的有，距离准则、Fisher 准则、贝叶斯准则等。判别准则可以是统计性的，如决定新样品所属类别时用到数理统计的显著性检验，也可以是确定性的，如决定样品归属时，只考虑判别函数值的大小。判别函数是指基于一定的判别准则计算出的用于衡量新样品与各已知组别接近程度的函数式或描述指标。 （二）判别分析的种类 按照判别组数划分有两组判别分析和多组判别分析；按照区分不同总体的所用数学模型来分有线性判别分析和非线性判别分析；按照处理变量的方法不同有逐步判别、序贯判别等；按照判别准则来分有距离准则、费舍准则与贝叶斯判别准则。 二、判别分析方法 （一）距离判别法 １．基本思想：首先根据已知分类的数据，分别计算各类的重心，即分组（类）均值，距离判别准则是对于任给一新样品的观测值，若它与第i 类的重心距离最近，就认为它来自第i 类。因此，距离判别法又称为最邻近方法（nearest neighbor method ）。距离判别法对各类总体的分布没有特定的要求，适用于任意分布的资料。 ２．两组距离判别 两组距离判别的基本原理。设有两组总体B A G G 和，相应抽出样品个数为21,n n ， n n n =+)(21，每个样品观测p 个指标得观测数据如下，
判别分析实例汇总
例：人文与发展指数是联合国开发计划署于1990年5月发表的第一份《人类发展报告》中公布的。该报告建议，目前对人文发展的衡量指标应当以人生的三大要素为重点。衡量人生的三大要素的指标分别为：实际人均GDP指数、出生时的预期寿命指数、受教育程度指数（由成人识字率指数和综合总人学率指数按2/3、1/3的权重加权而得），将一生三个指数合成为一个指数就是人文发展指数。今从2007年世界各国人文发展指数（2005年）的排序中，选取高发展水平、中等发展水平和低发展水平国家各6个作为三组样品，另选四个国家作为待判样品，资料如下表所示。试用判别分析过程对以下数据资料进行判别分析，并据此对待选的四个国家进行判别归类。
data develop; input type gdp life rate zhrate@@; cards; 1 41890 77.9 99.5 93.3 1 29461 79.1 99. 2 88 1 23381 78.9 96 99 1 29663 79.4 92.5 87.3 1 28529 80.3 98.4 90.6 1 22029 77.9 99 96 2 6000 77.7 99.8 87.6 2 9060 71.9 97. 3 76.8 2 8402 71.7 88.6 87.5 2 8677 69.6 92.6 71.2 2 5137 71 92.6 81.1 2 8407 71.4 87.4 68.7 3 1550 62.6 48.6 58.1 3 1128 46.5 69.1 56.2
3 2299 49.8 67.9 62.3 3 2370 64.6 49.9 40 3 3071 73.7 90.3 63.9 3 3843 69.7 90. 4 68.2 . 31267 82.3 99 85.9 . 3452 63.7 61 63.8 . 6757 72.5 90.9 69.1 . 11110 50.8 82.4 77 ; proc discrim simple wcov distance list;/*simple:要求技术各类样品的简单描述统计量；选项WCOV要求计算类内协方差阵；选项DISTANCE要求计算马氏距离；选项LIST要求输出重复替换归类结果。由于没有给出方法选项，所以系统按缺省时的正态分布进行有关参数的估计和归类。*/ class type; var gdp life rate zhrate; run; proc discrim pool=test slpool=0.05list; /*simple: */ class type; priors'1'=0.3'2'=0.4'3'=0.3 ; run; proc discrim method=npar k=2list; /*simple: */ class type; run; proc candisc out=result ncan=2; /*simple: */ class type; var gdp life rate zhrate; run; proc gplot data=reult; plot can1*can2=type; run; proc discrim data=result distance list; class type; var can1 can2; run; 表1 已知样本分类水平信息
例：人文与发展指数是联合国开发计划署于1990年5月发表的第一份《人类发展报告》中公布的。该报告建议，目前对人文发展的衡量指标应当以人生的三大要素为重点。衡量人生的三大要素的指标分别为：实际人均GDP指数、出生时的预期寿命指数、受教育程度指数（由成人识字率指数和综合总人学率指数按2/3、1/3的权重加权而得），将一生三个指数合成为一个指数就是人文发展指数。今从2007年世界各国人文发展指数（2005年）的排序中，选取高发展水平、中等发展水平和低发展水平国家各6个作为三组样品，另选四个国家作为待判样品，资料如下表所示。试用判别分析过程对以下数据资料进行判别分析，并据此对待选的四个国家进行判别归类。
data develop; input type gdp life rate zhrate@@; cards; 1 41890 77.9 99.5 93.3 1 29461 79.1 99. 2 88 1 23381 78.9 96 99 1 29663 79.4 92.5 87.3 1 28529 80.3 98.4 90.6 1 22029 77.9 99 96 2 6000 77.7 99.8 87.6 2 9060 71.9 97. 3 76.8 2 8402 71.7 88.6 87.5 2 8677 69.6 92.6 71.2 2 5137 71 92.6 81.1 2 8407 71.4 87.4 68.7 3 1550 62.6 48.6 58.1 3 1128 46.5 69.1 56.2 3 2299 49.8 67.9 62.3 3 2370 64.6 49.9 40 3 3071 73.7 90.3 63.9 3 3843 69.7 90. 4 68.2 . 31267 82.3 99 85.9 . 3452 63.7 61 63.8 . 6757 72.5 90.9 69.1 . 11110 50.8 82.4 77 ; proc discrim simple wcov distance list;/*simple:要求技术各类样品的简单描述统计量；选项WCOV要求计算类内协方差阵；选项DISTANCE要求计算马氏距离；选项LIST要求输出重复替换归类结果。由于没有给出方法选项，所以系统按缺省时的正态分布进行有关参数的估计和归类。*/ class type; var gdp life rate zhrate; run; proc discrim pool=test slpool=0.05list; /*simple: */ class type; priors'1'=0.3'2'=0.4'3'=0.3 ; run; proc discrim method=npar k=2list; /*simple: */ class type; run; proc candisc out=result ncan=2; /*simple: */
作业一： 为研究1991年中国城镇居民月平均收入状况，按标准化欧氏平方距离、离差平方和聚类方法将30个省、市、自治区．分为两种类型。试建立判别函数，判定广东、西藏分别属于哪个收入类型。判别指标及原始数据见表9-4。 1991年30个省、市、自治区城镇居民月平均收人数据表 单位：元／人 x1：人均生活费收入 x6：人均各种奖金、超额工资(国有+集体) x2：人均国有经济单位职工工资 x7：人均各种津贴(国有+集体) x3：人均来源于国有经济单位标准工资 x8：人均从工作单位得到的其他收入 x4：人均集体所有制工资收入 x9：个体劳动者收入 x5：人均集体所有制职工标准工资
一、距离判别法 解：变量个数p＝9，两类总体各有11个样品，即n1＝n2＝11 ，有2个待判样品，假定两总体协差阵相等。由spss可计算出：协方差和平均值
合计x1 123.2881 23.27817 22 22.000 x2 80.4895 22.04796 22 22.000 x3 50.8709 6.14867 22 22.000 x4 10.1450 3.11887 22 22.000 x5 6.0659 2.72297 22 22.000 x6 14.6060 6.73264 22 22.000 x7 15.7215 6.64603 22 22.000 x8 8.7895 3.02700 22 22.000 x9 1.5291 1.31496 22 22.000 知道了均值和协方差可利用matlab计算线性判别函数W（x）的判别系数a和判别常数。程序如下： v=[1.000,0.217,0.299,0.045,-0.054,0.688,0.212,0.121,-0.245;.217,1,.102,-.234,-.211,. 136,-.052,.116,.154;.299,.102,1,-.296,-.062,.091,-.017,-.607,-.034;.045,-.234,-.296,1,. 762,-.172,-.297,.103,-.554;-.054,-.211,-.062,.762,1,-.156,-.342,.022,-.654;.688,.136,.0 91,-.172,-.156,1,.235,.384,-.098;.212,-.052,-.017,-.297,-.342,.235,1,-.040,.424;.121,.1 16,-.607,.103,.022,.384,-.040,1,-.071;-.245,.154,-.034,-.554,-.654,-.098,.424,-.071,1]; >> m1=[139.2664;93.0918;53.9882;11.2073;6.7645;17.9345;17,8327;11.0018;1.6736];m 2=[107.3099;67.8873;47.7536;9.0827;5.3673;11.2775;13.6102;6.5773;1.3845]; >> m=(m1+m2)/2; >> arfa=inv(v)*(m1-m2);
第四讲 判别分析 第一节 判别分析概述 1．1 判别分析的任务 假设事先存在若干个已知类(group)，判别分析是研究将一个新的个体(case)，用什么方法将它分到最合适的已知类中去。 1．2 数学描述 设有m 个已知类：G 1, G 2, … ,G m ，类的特征由p 个变量X 1,X 2,…,X p 决定，这p 个变量也叫判别指标。今后用一个p 维 向量),...,,(21'=p X X X x 表示；类G i 含n i 个个体，其弟k 个个 体（特征）为： m i n k X X X x i i kp i k i k i k ,...,2,1,,...,2,1, ),...,,()()(2 )(1 ) (=='= 并且有：∑==m i i n n 1。 现有一个新的个体),...,,()0() 0(2)0(1)0(' =p X X X x ，设计一 种归类的方法，将)0(x 归入最适合它的已知类中去。 第二节 判别函数 2．1 判别的基本方法是把新个体归入与它性质最相近的类。在表达“性质最相近”时，有时候是的距离远近衡量，有时候用损失的大小表示。不管用什么方法表达，都离不开判别函数。 2．2 判别函数 1．形式 （线性）判别函数是判别指标（变量）的线性函数 q s x c X c X c X c f s p sp s s s ,...,2,1, 2211='=+++= 其中，向量：q s c c c c sp s s s ,...,2,1, ),...,,(21='= (
2．本质 判别函数是一组由R p →R q 的映射，它把一个原本属于高维空间的问题转换成为一个维数较低的空间问题。我们把空间R p 中原始已知类G i 经过f s 映射后在空间R q 中的像记为f s (G i )。 3．判别函数应具备的基本要求 判别函数是从高维空间R p 到较低维空间R q 的一组线性变换，为了使低维空间内的判别工作变得更容易，很自然地对判别函数提出两个基本要求： (1)空间R p 中的原始类：G 1,G 2,…,G m 在空间R q 中的像集合f (G 1),f (G 2),…,f (G m )应该容易区分，即这些像集合之间应有较大的间隔空间； (2)每个原始类G i 的像集合f (G i )，其元素在空间的分布上应较为集中，或者说f (G i )有较大的“密度”。 4．基本要求的数学表达 (1)引入一些符号： 像集合f (G i )的中心： m i x f n f i n k i k i i ,...,2,1, )(11 ) () (== ∑ = 像空间R q 中，所有像点的中心： ∑ ∑ ∑ ==== = m i i i m i n k i k f n n x f n f i 1 ) (1 1 ) (1)(1 (2)定义两个平方和： 组内平方和(Within Groups) ∑ ∑ ==-= m i n k i i k i f f SW 1 1 2 ) ()() ( 组间平方和(Between Groups) 2 1 ) () (∑ =-= m i i i f f n SB
典型判别分析与贝叶斯判别的区别 1.原理不同 典型判别是根据方差分析思想，进行投影，将原来一个维度空间的自变量组合投影到另一维度空间，寻找一个由原始变量组成的线性函数使得组间差异和组内差异的比值最大化。根据样本点计算判别函数，计算判别函数到各类中心的欧式距离，取距离最小的类别。 贝叶斯判别是是利用已知的先验概率去推证将要发生的后验概率，就是计算每个样本的后验概率及其判错率，用最大后验概率来划分样本的分类并使得期望损失达到最小 2.前提条件不同 典型判别不考虑样本的具体分布，只求组间差异和组内差异的比值最大化 贝叶斯判别从样本的多元分布出发，充分利用多元正态分布的概率密度提供的信息计算后验概率，因此需要样本数据服从多元正态分布，方差齐性等。 3.产生的判别函数不同 典型判别根据K类最多产生K-1个判别函数 贝叶斯判别根据K类最多可产生K个判别函数 先验概率在判别分析中的作用 1.所谓先验概率，就是用概率来描述人们事先对所研究的对象的认识的程度，是根据以往经验和分析得到的概率。所谓后验概率，就是根据具体资料、先验概率、特定的判别规则所计算出来的概率。它是对先验概率修正后的结果，它是更接近于实际情况的概率估计。贝叶斯（BAYES）判别思想是根据先验概率求出后验概率，并依据后验概率分布作出统计推断 2.样品的先验概率对预测有一定的作用，反应样本分布的总体趋向性。被判断的个案应该属于先验概率最大总体的概率应该高一些，贝叶斯考虑了先验概率的影响提高判别的敏感度，同时利用先验概率可以求出后验概率（基于平均损失函数）和误判率，从而进行判别分析，充分利用数据的概率密度分布，判别效率高。样品归于概率大的类别。 3.这样使误判平均损失最小。既考虑到不同总体出现机会的差异、各错误判断造成损失的不同，又充分尊重了每个总体的分布状态 判别准则的评价 刀切法：基本思想是每次剔除训练样本中的一个样本，利用其余容量的训练样本建立判别函数，再用所建立的判别函数对删除的那个样本做判别，对训练样本中的每个样品重复上述步骤，已其误判的比例作为误判概率的估计。 判别分析结果 Eigenvalues a First 2 canonical discriminant functions were used in the analysis. 1．判别函数的特征根，方差百分比，累计方差百分比
目录前言 1什么是需求需求分析在整个开发周期的作用。 2 在需求过程中的三个里程碑 2.1 第一阶段确定项目的大背景 2.2 第二阶段项目本阶段的核心需求定义和确定2. 3 第三阶段项目详细需求分析前言需求对于我们IT人来讲是一个再熟悉不过的名词了如何在项目开发周期做需求那就是各有各的道了下面是我对软件开发过程中对做需求的理解和总结。希望能给大家带来一点不同的感官。 1什么是需求需求分析在整个开发周期的作用。对于需求概念来讲就是功能质量约束。在整个开发周期中需求是整个开发的基础。需求分析成功则软件风险就减少了一半。这么一讲还是蛮空洞的对于我们来讲如何进行需求分析它的流程是什么每步流程的标准又是什么呢本人在需求操作中主要分为三个阶段。第一阶段确定项目的大背景。第二阶段项目本阶段的核心需求定义和确定第三阶段项目详细需求分析。 2 在需求过程中的三个里程碑 2.1 第一阶段确定项目的大背景确定项目的大背景就是充分的了解项目的领域客户对项目的期望值。其次对于企业项目来讲在确定项目目标后还要进一步的了解客户的企业框架。当前项目在企业框架中位置第三方接口定义等等。在考虑到完成业务上的预景后接下来就是项目实现技术实现方案选择实现项目的技术框架通常包含开发平台第三方组件硬件环境测试环境部署环境等第一阶段的配置项为《企业建设方案》 2.2 第
二阶段项目本阶段的核心需求定义和确定在确定了需求的大背景下下一步我们需要做的内容就是确定项目的核心功能关键的质量和相关的约束。在这边我要着重向大家说明一下温昱老师的二维需求表。表的格式为功能质量约束业务及需求用户级需求开发级需求功能软件功能又分关键功能次要功能等。在第二阶段我们要做的就是分辨并整理关键功能和次要功能。根据项目的规划找出当前需要实现的关键功能与此同时对于高风险技术风险大的功能或者关键功能中相互冲突的功能进行前期取舍。当然啦在取舍和确定具体的功能范围还是要和客户之间相互沟通的最后要补充一点的就是确定关键功能这个过程是不停递归的一个过程。质量一般质量分类包含性能安全性可靠性易用性可扩展可维护可移植等。在需求分析中和关键功能一样要根据项目的愿景进行关键质量的筛选。在某种情况下软件的质量之间还是有冲突鱼和熊掌不可兼得的情况如可维护性和性能是一对对立的两兄弟。我们还需要对这样的关键质量进行必要的取舍。在作出这样的取舍依据的标准就来源于我们需求的第一阶段的工作。约束软件的约束分好多的角度业务级约束举例项目的组织结构和人员信息来源于企业人事系统用户级约束举例使用客户用一部分是残障人事等其包含了藏语用户等开发级约束举例开发人员的技术水平等。在调研并完成这样的二维需求表后及时的和客户沟通
判别分析： 实验步骤： 1.在SPSS窗口中选择：分析-分类-判别，将变量导入自变量框中，group导入分组变 量中，选择定义范围，最小为1最大为3，并选择一起输入自变量，点击继续 2.点击统计量，描述性中选择“均值”，“单变量”和”Box”，选择函数系数中的“Fisher” “未标准化”，矩阵中选择“组内相关”，点击继续 3.点击分类 点击继续 4.点击“保存”，三个框均选中，点击继续
5.点击确定 实验结果分析： 1.表1 组统计量 看各个总体在均值等指标上的值是否接近，若接近说明各类之间在该指标差异不大表2 表3 汇聚的组内矩阵
若自变量之间存在高度相关，则判别分析价值不大，但并不严格，允许出现一定的相关表4 协方差矩阵的均等性的箱式检验 检验结果p值>0.05时，说明协方差矩阵相等，可以进行bayes检验 表7
由表7可知，两个Fisher 判别函数分别为 112345621234 56 74.99 1.861 1.6560.8770.7980.098 1.57929.4820.867 1.1550.3560.0890.0540.69y X X X X X X y X X X X X X =--+-+++=--+--++ 表8 结构矩阵 该表是原始变量与典型变量（标准化的典型判别函数）的相关系数，相关系数的绝对值越大，说明原始变量与这个判别函数的相关性越强
由表9可知各类别重心的位置，通过计算观测值与各重心的距离，距离最小的即为该观测值的分类。 表10 给出贝叶斯判别函数系数 第一类： 1123456 5317.2143.9153.190.153.011.0189.3F X X X X X X =--+-+++ 2. 将各样品的自变量值代入上述三个Bayes 判别函数，得到函数值。比较函数值，哪 个函数值比较大就可以判断该样品判入哪一类
第三章需求分析 一. 填空题 1.需求分析的步骤 , , , 。 2.需求分析阶段需编写的文档有，，。 3.系统规格说明，数据要求，，,这四份文档资料是在书写文档阶段必需完成的。 4.在书写文档阶段，数据要求主要包括通过需求分析建立起来的，以及描绘数据结构的层次方框图。 5.对于计算机程序处理的数据，其数据域应包括 , , 和数据结构。 6.数据内容即是。 7.把一个功能分解成几个子功能，并确定 , 就属于横向分解。 8.软件需求的逻辑视图给出 , 而不是实现的细节。 9. 功能一般用 , 来表示。 10.结构化分析方法是 , 进行需求分析的方法. 11.描述结构化分析方法的工具有，，，判定表，判定树。 · 12. SA方法中自顶向下的分析策略主要是和。 13.数据流图的基本组成部分有，，，。 14.数据流图的特性，，，。 15.数据流图和数据字典共同构成了系统的模型，是需求规格说明书的主要组成部分。 16.分析员通过需求分析，逐步细化对软件的需求，描述软件主要处理的，并给软件开发提供一种可转化为，和的数据与功能表示。 17．需求分析阶段研究的对象是软件项目的。 18．数据流图的基本符号包括，，，。 19．在需求分析阶段常用的图形工具有，，。 20．需求分析应交付的主要文档是。 二. 选择题 / 1. 需求分析中开发人员要从用户那里了解（） A．软件做什么 B．用户使用界面 C．输入的信息 D．软件的规模 2. 需求分析阶段的任务是确定（） A．软件开发方法B．软件开发工具C．软件开发费D．软件系统的功能 3. 需求分析阶段最重要的技术文档之一是非曲直（）。 A．项目开发计划B．设计说明书C．需求规格说明书D．可行性分析报告 4．需求分析阶段建立原型的目的是（）。 A．确定系统的功能和性能的需求B．确定系统的运行要求
输出结果4—1 未加权案例N 百分比有效150 100.0 排除的缺失或越界组代码0 .0 至少一个缺失判别变量0 .0 缺失或越界组代码还有 至少一个缺失判别变量 0 .0 合计0 .0 合计150 100.0 y 均值标准差有效的N（列表状态） 未加权的已加权的 1 Sepal.Length 5.006 .3525 50 50.000 Sepal.Width 3.428 .3791 50 50.000 Petal.Length 1.46 2 .1737 50 50.000 Petal.Width .246 .1054 50 50.000 2 Sepal.Length 5.936 .5162 50 50.000 Sepal.Width 2.770 .3138 50 50.000 Petal.Length 4.260 .4699 50 50.000 Petal.Width 1.326 .1978 50 50.000 3 Sepal.Length 6.588 .6359 50 50.000 Sepal.Width 2.97 4 .322 5 50 50.000 Petal.Length 5.552 .5519 50 50.000 Petal.Width 2.02 6 .274 7 50 50.000 合计Sepal.Length 5.843 .8281 150 150.000 Sepal.Width 3.057 .4359 150 150.000 Petal.Length 3.758 1.7653 150 150.000 Petal.Width 1.199 .7622 150 150.000 组均值的均等性的检验 Wilks 的 Lambda F df1 df2 Sig. Sepal.Length .381 119.265 2 147 .000 Sepal.Width .599 49.160 2 147 .000 Petal.Length .059 1180.161 2 147 .000 Petal.Width .071 960.007 2 147 .000
判别分析 1.判别分析的适用条件 (1)自变量和因变量间的关系符合线性假设。 (2)因变量的取值是独立的，且必须是事先就己经确定。 (3)自变量服从多元正态分布。 (4)所有自变量在各组间方差齐，协方差矩阵也相等。 (5)自变量间不存在多重共线性。 2.违背条件时的处理方法 (1)当样本的多元正态分布假设不能满足的时候采取的措施和方法如下: <>如果数据的超平面是若干分段结构的话，采用分段判别分析。 <>如果数据满足方差和协方差的齐次性可以采用距离判别分析、经典判别分析、贝叶斯判别分析中的任何一种，因为此时三者是等价的，建议使用经典判别分析。 <>如果数据不满足方差和协方差的齐次性，则采用经典判别分析、非参数判别分析、距离判别分析，这些方法无此适用条件。 <>进行变量变换。 (2)方差和协方差的齐次性不能满足的时候可以采取的措施如下: <>增加样本，这有时可以使其影响减小。 <>慎重的进行变量变换。 <>采用经典判别分析、非参数判别分析、距离判别分析，这些方法无此适用条件。 <>在合乎总体实际情况的前提下，保证各个分组的样本量一样，判别分析中分组之间样本量一样可以带来以下几个好处:使得结果与方差齐次性假设不会偏离得太大;F检验时第 二类错误(实际上为虚假的条件下正确的拒绝了原假设的概率)得到减小;使得均值更加容易比较和检验。 <>要是样本服从多元正态分布，采用二次判别，但是应该注意到二次判别分析没有计算判错率和统计检验的公式。 (3)存在多重共线性时可以采取的措施如下: <>增加样本量。 <>使用逐步判别分析。 <>采用岭判别分析。 <>对自变量进行主成分分析，用因子代替自变量进行判别分析。 <>通过相关矩阵结合实际的理论知识删去某些产生共线性的自变量。显然，上述措施和线性回归中对共线性的处理方式是非常类似的。 (4)当线性假设被违反的时候可以采取的措施如下: <>采用二次判别分析。 <>K最近邻判别分析或核密度判别分析两种非参数判别分析。 <>离散型判别分析或混合型判别分析。 3．典型判别分析的基本原理 试图找到一个由原始自变量组成的线性函数使得组间差异和组内差异的比值最大化。所谓Fisher判别法，就是一种先投影的方法。考虑只有两个（预测）变量的判别分析问题。假定这里只有两类。数据中的每个观测值是二维空间的一个点。见图（下一张幻灯片）。这里只有两种已知类型的训练样本。其中一类有38个点（用“o”表示），另一类有44个点（用“*”表示）。按照原来的变量（横坐标和纵坐标），很难将这两种点分开。于是就寻找一个方向，也就是图上的虚线方向，沿着这个方向朝和这个虚线垂直的一条直线进行投影会使得这两类分得最清楚。可以看出，如果向其他方向投影，判别效果不会比这个好。有了投影之后，
判别分析 一、 定义： 判断分析法是指通过一些具有市场经验的经营管理人员或专家对企业未来某一特定时期的产品销售业务情况迸行综合研究,并做出推测和判断的方法。 判别分析法简介: 判别分析又称“分辨法”，是在分类确定的条件下，根据某一研究对象的各种特征值判别其类型归属问题的一种多变量统计分析方法。 其基本原理是按照一定的判别准则，建立一个或多个判别函数，用研究对象的大量资料确定判别函数中的待定系数，并计算判别指标。据此即可确定某一样本属于何类。当得到一个新的样品数据，要确定该样品属于已知类型中哪一类，这类问题属于判别分析问题。 判别分析的目的是得到充分体现分类的函数关系式，即判别函数。 判别分析法在气候分类、农业规划、土地类型划分中有着广泛的应用，在生产、科研和日常生活中经常需要根据观测到的数据资料，对所研究的对象进行分类。例如在经济学中，根据人均国民收入、人均工农业产值、人均消费水平等多种指标来判定一个国家的经济发展程度所属类型；在市场预测中，根据以往调查所得的种种指标，判别下季度产品是畅销、平常或滞销；在地质勘探中，根据岩石标本的多种特性来判别地层的地质年代，由采样分析出的多种成份来判别此地是有矿或无矿，是铜矿或铁矿等；在油田开发中，根据钻井的电测或化验数据，判别是否遇到油层、水层、干层或油水混合层；在农林害虫预报中，根据以往的虫情、多种气象因子来判别一个月后的虫情是大发生、中发生或正常； 在体育运动中，判别某游泳运动员的“苗子”是适合练蛙泳、仰泳、还是自由泳等；在医疗诊断中，根据某人多种体验指标（如体温、血压、白血球等）来判别此人是有病还是无病。总之，在实际问题中需要判别的问题几乎到处可见。 其基本思想是在一直观测对象的分类和特征变量值的前提下，从中筛选出能够提供较多信息的变量，并建立判别函数，目标使得到的判别函数在对观测量进行判别其所属类别时的错判率最小。判别函数的一般形式是： 其中Y 为判别函数判别值, 1 2 ,,...,n x x x 为反映研究对象特征的变量， 1 2 ,,...,n a a a 为个变量的系数即判别系数. 常用的判别法：马氏距离判别法、Bayes （贝叶斯）判别法、Fisher （费希尔）判别法，此外还包括极大似然法，Logistic 判别法、逐步判别法等。