判别分析的过程及结果解读

数据分析知识：数据分析中的判别分析方法判别分析（Discriminant Analysis）是一种经典的统计分析方法，常用于解决分类问题。

通过对已知分类的数据进行学习，再对未知数据进行分类。

判别分析方法的主要目标是确定一个或多个变量的线性组合，这个线性组合在不同类别中能够最大化差异，最小化类内差异。

这篇文章将介绍判别分析的基本概念、方法和应用，并对判别分析和其他分类方法进行比较。

一、判别分析的基本概念1.1判别分析的基本思想判别分析的基本思想是找到一个或多个线性组合，使得不同类别之间的差异最大化，同一类别内的差异最小化。

这个线性组合可以被用来将数据投影到一个低维空间，从而实现分类。

比如，对于二分类问题，找到一条直线将两类数据分开。

1.2判别分析的应用场景判别分析广泛应用于生物医学、社会科学、市场营销等领域。

比如，利用判别分析对患者进行分类，预测其疾病的风险；对消费者进行分类，预测其购买行为等。

1.3判别分析的假设判别分析方法通常有一些假设，比如多元正态性、同方差性和无相关性等。

如果这些假设不成立，可能会影响判别分析的结果。

二、判别分析的方法2.1线性判别分析（LDA）线性判别分析是判别分析中最常用的方法之一。

它通过找到一个或多个线性组合，使得不同类别之间的差异最大化，同一类别内的差异最小化。

在实际应用中，常常利用LDA来降维，然后使用简单的分类器进行分类。

2.2二次判别分析（QDA）二次判别分析是判别分析的一种扩展，它允许类别内的协方差不相等。

相比于LDA，QDA的分类边界更加灵活，但是通常需要更多的参数。

2.3特征抽取判别分析通常需要找到一个或多个变量的线性组合，这些变量通常被称为特征。

特征抽取是判别分析的一个重要步骤，它可以通过一些算法比如主成分分析（PCA）来实现。

特征抽取的目标是尽可能多地保留原始数据的信息，在降低维度的同时尽可能减少信息损失。

三、判别分析的应用3.1医学领域在医学领域，判别分析被广泛应用于疾病诊断、治疗方案选择等方面。

关于判别分析的理解判别分析⼜称“分辨法”，是在分类确定的条件下，根据某⼀研究对象的各种特征值判别其类型归属问题的⼀种多变量统计分析⽅法。

其基本原理是按照⼀定的判别准则，建⽴⼀个或多个判别函数，⽤研究对象的⼤量资料确定判别函数中的待定系数，并计算判别指标。

据此即可确定某⼀样本属于何类。

当得到⼀个新的样品数据，要确定该样品属于已知类型中哪⼀类，这类问题属于判别分析问题。

判别分析，是⼀种统计判别和分组技术，就⼀定数量样本的⼀个分组变量和相应的其他多元变量的已知信息，确定分组与其他多元变量信息所属的样本进⾏判别分组。

要解决的问题：已知某种事物有⼏种类型，现在从各种类型中各取⼀个样本，由这些样本设计出⼀套标准，使得从这种事物中任取⼀个样本，可以按这套标准判别它的类型。

分类：根据判别中的组数，可以分为两组判别分析和多组判别分析；根据判别函数的形式，可以分为线性判别和⾮线性判别；根据判别式处理变量的⽅法不同，可以分为逐步判别、序贯判别等；根据判别标准不同，可以分为距离判别、Fisher判别、Bayes判别法等。

判别分析通常都要设法建⽴⼀个判别函数，然后利⽤此函数来进⾏批判，判别函数主要有两种，即线性判别函数（Linear Discriminant Function）和典则判别函数（Canonical Discriminate Function）。

线性判别函数是指对于总体，如果各组样品互相对⽴，且服从多元正态分布，就可建⽴线性判别函数。

典则判别函数是原始⾃变量的线性组合，通过建⽴少量的典则变量可以⽐较⽅便地描述各类之间的关系，例如可以⽤画散点图和平⾯区域图直观地表⽰各类之间的相对关系等。

建⽴判别函数的⽅法⼀般由四种：全模型法、向前选择法、向后选择法和逐步选择法。

1）全模型法是指将⽤户指定的全部变量作为判别函数的⾃变量，⽽不管该变量是否对研究对象显著或对判别函数的贡献⼤⼩。

此⽅法适⽤于对研究对象的各变量有全⾯认识的情况。

判别分析判别分析又称“分辨法”，是在分类确定的条件下，根据某一研究对象的各种特征值判别其类型归属问题的一种多变量统计分析方法。

其基本原理是按照一定的判别准则，建立一个或多个判别函数，用研究对象的大量资料确定判别函数中的待定系数，并计算判别指标。

据此即可确定某一样本属于何类。

1：距离判别的判别准则和判别函数：设总体A 和B 的均值向量分别为1μ和2μ，协方差阵分别为1∑和2∑，今给一个样本x 要判断x 来自哪一个总体。

若协方差相同，即1212μμ∑∑∑≠==，计算x 到总体A 和B 的Mahalanobis 距离(,)d x A 和(,)d x B ，Mahalanobis 的计算有以下定义：定义5.1 设x 是从均值为μ，协方差为∑的总体A 中抽取的样本，则总体A 内两点x 与y 的Mahalanobis 距离（简称马氏距离）定义为：(,)d x y =定义样本x 与总体A 的Mahalanobis 距离为：(,)d x A =然后进行比较，若(,)(,)d x A d x B ≤，则判定x 属于A ;否则判定x 来自B 。

由此得到如下判别准则：,(,)(,),(,)(,)A d x A d x B x B d x A d x B ≤⎧∈⎨≥⎩令T 112()()()w x x μ∑μμ-=-- 称()w x 为两总体距离的判别函数，由此判别准则变为,()0,,()0.A w x x B w x ≥⎧∈⎨≤⎩在实际计算中，总体的均值和协方差阵都是未知的，由此总体的均值与协方差需要用样本的均值和协方差来代替，设1(1)(1)(1)12,,,nx x x ⋅⋅⋅是来自总体A 的1n 个样本点，2(2)(2)(2)12,,,n x x x ⋅⋅⋅是来自总体B 的2n 个样本,则样本的均值和协方差为 11ˆ,1,2in ii i j j iux x i n ====∑2()()()()T1211121211ˆ=()()()22in i i i i j ji j x x x x S S n n n n ==∑---++-+-∑∑ 其中()()()()T 1()(),1,2in i i i i i j j j S x x x x i ==--=∑对于待测样本x ，其判别函数定义为T 1(1)(2)ˆˆˆˆ()()()wx x x x x ∑-=-- 其中(1)(2)ˆˆˆ2x x x +=其判别准则为ˆ,()0,ˆ,()0.A wx x B wx ≥⎧∈⎨≤⎩ 2：若协方差不同，即1212μμ∑∑≠≠，对于样本x ，在方差不同的情况下，判别函数为 T -1T -1222111ˆˆ()()()()()W x x x x x μ∑μμ∑μ=----- 在实际计算中，总体的均值和协方差阵都是未知的，由此总体的均值与协方差需要用样本的均值和协方差来代替。

判别分析：实验步骤：1.在SPSS窗口中选择：分析-分类-判别，将变量导入自变量框中，group导入分组变量中，选择定义范围，最小为1最大为3，并选择一起输入自变量，点击继续2.点击统计量，描述性中选择“均值”，“单变量”和”Box”，选择函数系数中的“Fisher”“未标准化”，矩阵中选择“组内相关”，点击继续3.点击分类点击继续4.点击“保存”，三个框均选中，点击继续5.点击确定实验结果分析：1.表1 组统计量看各个总体在均值等指标上的值是否接近，若接近说明各类之间在该指标差异不大表2表3 汇聚的组内矩阵若自变量之间存在高度相关，则判别分析价值不大，但并不严格，允许出现一定的相关表4 协方差矩阵的均等性的箱式检验检验结果p值>0.05时，说明协方差矩阵相等，可以进行bayes检验表5表7由表7可知，两个Fisher 判别函数分别为1123456212345674.99 1.861 1.6560.8770.7980.098 1.57929.4820.867 1.1550.3560.0890.0540.69y X X XX X X y X X X X X X =--+-+++=--+--++表8 结构矩阵该表是原始变量与典型变量（标准化的典型判别函数）的相关系数，相关系数的绝对值越大，说明原始变量与这个判别函数的相关性越强由表9可知各类别重心的位置，通过计算观测值与各重心的距离，距离最小的即为该观测值的分类。

第一类：11234565317.2143.9153.190.153.011.0189.3F X X X X X X =--+-+++2. 将各样品的自变量值代入上述三个Bayes 判别函数，得到函数值。

比较函数值，哪个函数值比较大就可以判断该样品判入哪一类下面是赠送的保安部制度范本，不需要的可以编辑删除谢谢！保安部工作制度一、认真贯彻党的路线、方针政策和国家的法津法规，按照####年度目标的要求，做好####的安全保卫工作，保护全体人员和公私财物的安全，保持####正常的经营秩序和工作秩序。

判别分析：实验步骤：1.在SPSS窗口中选择：分析-分类-判别，将变量导入自变量框中，group导入分组变量中，选择定义范围，最小为1最大为3，并选择一起输入自变量，点击继续2.点击统计量，描述性中选择“均值”，“单变量”和”Box”，选择函数系数中的“Fisher”“未标准化”，矩阵中选择“组内相关”，点击继续3.点击分类点击继续4.点击“保存”，三个框均选中，点击继续5.点击确定实验结果分析：1.表1 组统计量看各个总体在均值等指标上的值是否接近，若接近说明各类之间在该指标差异不大表2表3 汇聚的组内矩阵若自变量之间存在高度相关，则判别分析价值不大，但并不严格，允许出现一定的相关表4 协方差矩阵的均等性的箱式检验检验结果p值>0.05时，说明协方差矩阵相等，可以进行bayes检验表7由表7可知，两个Fisher 判别函数分别为1123456212345674.99 1.861 1.6560.8770.7980.098 1.57929.4820.867 1.1550.3560.0890.0540.69y XX X X X X y X X X XX X =--+-+++=--+--++表8 结构矩阵该表是原始变量与典型变量（标准化的典型判别函数）的相关系数，相关系数的绝对值越大，说明原始变量与这个判别函数的相关性越强由表9可知各类别重心的位置，通过计算观测值与各重心的距离，距离最小的即为该观测值的分类。

表10 给出贝叶斯判别函数系数第一类：11234565317.2143.9153.190.153.011.0189.3F X X X X X X =--+-+++2. 将各样品的自变量值代入上述三个Bayes 判别函数，得到函数值。

比较函数值，哪个函数值比较大就可以判断该样品判入哪一类。

判别分析四种方法判别分析(Discriminant Analysis)是一种用于分类问题的统计方法, 它通过分析已知分类的样本数据，构造出一个判别函数，然后将未知类别的样本数据带入判别函数进行分类。

判别分析可以用于研究变量之间的关系以及确定分类模型等方面。

在判别分析中，有四种主要的方法，包括线性判别分析(Linear Discriminant Analysis, LDA)、二次判别分析(Quadratic Discriminant Analysis, QDA)、多重判别分析(Multiple Discriminant Analysis, MDA)和正则化判别分析(Regularized Discriminant Analysis, RDA)。

1.线性判别分析(LDA):线性判别分析是最常用的判别分析方法之一、它假设每个类别的样本数据都服从多元正态分布，并且各个类别具有相同的协方差矩阵。

基于这些假设，LDA通过计算类别间离散度矩阵(Sb)和类别内离散度矩阵(Sw)，然后求解广义瑞利商的最大化问题，得到最佳的线性判别函数。

线性判别分析适用于样本类别数量较少或样本维度较高的情况。

2.二次判别分析(QDA):二次判别分析是基于类别的样本数据服从多元正态分布的假设构建的。

与LDA不同的是，QDA没有假设各个类别具有相同的协方差矩阵。

相反，QDA为每个类别计算一个特定的协方差矩阵，并将其带入到判别函数中进行分类。

由于QDA考虑了类内协方差矩阵的差异，因此在一些情况下可以提供比LDA更好的分类效果。

3.多重判别分析(MDA):4.正则化判别分析(RDA):正则化判别分析是近年来提出的一种改进的判别分析方法。

与LDA和QDA不同的是，RDA通过添加正则化项来解决维度灾难问题，以及对输入数据中的噪声进行抑制，从而提高分类的准确性。

正则化项的引入使得RDA可以在高维数据集上进行有效的特征选择，并获得更鲁棒的判别结果。

第六章判别分析§6.1 什么是判别分析判别分析是判别样品所属类型的一种统计方法，其应用之广可与回归分析媲美。

在生产、科研和日常生活中经常需要根据观测到的数据资料,对所研究的对象进行分类。

例如在经济学中，根据人均国民收入、人均工农业产值、人均消费水平等多种指标来判定一个国家的经济发展程度所属类型；在市场预测中，根据以往调查所得的种种指标，判别下季度产品是畅销、平常或滞销；在地质勘探中，根据岩石标本的多种特性来判别地层的地质年代，由采样分析出的多种成份来判别此地是有矿或无矿，是铜矿或铁矿等；在油田开发中，根据钻井的电测或化验数据，判别是否遇到油层、水层、干层或油水混合层；在农林害虫预报中，根据以往的虫情、多种气象因子来判别一个月后的虫情是大发生、中发生或正常；在体育运动中,判别某游泳运动员的“苗子”是适合练蛙泳、仰泳、还是自由泳等；在医疗诊断中，根据某人多种体验指标（如体温、血压、白血球等)来判别此人是有病还是无病。

总之，在实际问题中需要判别的问题几乎到处可见。

判别分析与聚类分析不同。

判别分析是在已知研究对象分成若干类型（或组别）并已取得各种类型的一批已知样品的观测数据,在此基础上根据某些准则建立判别式,然后对未知类型的样品进行判别分类.对于聚类分析来说，一批给定样品要划分的类型事先并不知道，正需要通过聚类分析来给以确定类型的。

正因为如此,判别分析和聚类分析往往联合起来使用,例如判别分析是要求先知道各类总体情况才能判断新样品的归类，当总体分类不清楚时，可先用聚类分析对原来的一批样品进行分类，然后再用判别分析建立判别式以对新样品进行判别。

判别分析内容很丰富，方法很多。

判别分析按判别的组数来区分，有两组判别分析和多组判别分析；按区分不同总体的所用的数学模型来分，有线性判别和非线性判别；按判别时所处理的变量方法不同，有逐步判别和序贯判别等。

判别分析可以从不同角度提出的问题,因此有不同的判别准则，如马氏距离最小准则、Fisher准则、平均损失最小准则、最小平方准则、最大似然准则、最大概率准则等等,按判别准则的不同又提出多种判别方法。