928034-模式识别(研究生)-参考书-作业-机器学习实验报告模板

模式识别实验报告实验一、最近邻规则的聚类算法一、实验要求编写采用最近邻规则的聚类算法，距离采用欧式距离，阈值可设定。

采用二维特征空间中的10个样本对程序进行验证。

x1 = (0,0) ，x2 = (3,8) ，x3 = (2,2) ，x4 = (1,1) ，x5 = (5,3)，x6 = (4,8) ，x7 = (6,3) ，x8 = (5,4) ，x9 = (6,4) ，x10 = (7,5)。

二、实验步骤○1、选取距离阈值T，并且任取一个样本作为第一个聚合中心Z1，如：Z1=x1；○2、计算样本x2到Z1的距离D21；若D21≤T，则x2∈Z1，否则令x2为第二个聚合中心，Z2=x2。

设Z2=x2，计算x3到Z1和Z2的距离D31和D32 。

若D31>T和D32>T，则建立第三个聚合中心Z3 ；否则把x3归于最近邻的聚合中心。

依此类推，直到把所有的n个样本都进行分类。

○3、按照某种聚类准则考察聚类结果，若不满意，则重新选取距离阈值T、第一个聚合中心Z1，返回第二步②处，直到满意，算法结束。

三、程序设计详见附件1：test1.m。

四、仿真结果最近邻聚类算法：阈值T=1，第一个聚类中心（5,4）最近邻聚类算法：阈值T=3，第一个聚类中心（5,4）最近邻聚类算法：阈值T=6，第一个聚类中心（5,4）最近邻聚类算法：阈值T=10，第一个聚类中心（5,4）五、结果分析1、考虑阈值对聚类的影响：由上述仿真结果可知，阈值大小对于分类的影响非常大。

当阈值小于1的时候，样本（10个）共分为10类；而当阈值大于10的时候，样本全分为1类；当阈值在其中时，随着阈值的变化分类页多样化。

所以选取合适的阈值是正确分类的前提标准！2、考虑初始聚类中心对聚类的影响：在合适的阈值下，第一个聚类中心的选取对分类结果几乎没有什么影响；而相对的，阈值不合适的情况下，第一个聚类中心的选取对分类结果还是有一些影响，仿真结果会出现一些偏差。

《模式识别》实验报告---最小错误率贝叶斯决策分类一、实验原理对于具有多个特征参数的样本（如本实验的iris 数据样本有4d =个参数），其正态分布的概率密度函数可定义为112211()exp ()()2(2)T d p π-⎧⎫=--∑-⎨⎬⎩⎭∑x x μx μ 式中，12,,,d x x x ⎡⎤⎣⎦=x 是d 维行向量，12,,,d μμμ⎡⎤⎣⎦=μ是d 维行向量，∑是d d ⨯维协方差矩阵，1-∑是∑的逆矩阵，∑是∑的行列式。

本实验我们采用最小错误率的贝叶斯决策，使用如下的函数作为判别函数()(|)(),1,2,3i i i g p P i ωω==x x （3个类别）其中()i P ω为类别i ω发生的先验概率，(|)i p ωx 为类别i ω的类条件概率密度函数。

由其判决规则，如果使()()i j g g >x x 对一切j i ≠成立，则将x 归为i ω类。

我们根据假设：类别i ω，i=1,2,……,N 的类条件概率密度函数(|)i p ωx ，i=1,2,……,N 服从正态分布，即有(|)i p ωx ~(,)i i N ∑μ，那么上式就可以写为1122()1()exp ()(),1,2,32(2)T i i dP g i ωπ-⎧⎫=-∑=⎨⎬⎩⎭∑x x -μx -μ对上式右端取对数，可得111()()()ln ()ln ln(2)222T i i i i dg P ωπ-=-∑+-∑-i i x x -μx -μ上式中的第二项与样本所属类别无关，将其从判别函数中消去，不会改变分类结果。

则判别函数()i g x 可简化为以下形式111()()()ln ()ln 22T i i i i g P ω-=-∑+-∑i i x x -μx -μ二、实验步骤（1）从Iris.txt 文件中读取估计参数用的样本，每一类样本抽出前40个，分别求其均值，公式如下11,2,3ii iii N ωωω∈==∑x μxclear% 原始数据导入iris = load('C:\MATLAB7\work\模式识别\iris.txt'); N=40;%每组取N=40个样本%求第一类样本均值 for i = 1:N for j = 1:4w1(i,j) = iris(i,j+1); end endsumx1 = sum(w1,1); for i=1:4meanx1(1,i)=sumx1(1,i)/N; end%求第二类样本均值 for i = 1:N for j = 1:4 w2(i,j) = iris(i+50,j+1);end endsumx2 = sum(w2,1); for i=1:4meanx2(1,i)=sumx2(1,i)/N; end%求第三类样本均值 for i = 1:N for j = 1:4w3(i,j) = iris(i+100,j+1); end endsumx3 = sum(w3,1); for i=1:4meanx3(1,i)=sumx3(1,i)/N; end（2）求每一类样本的协方差矩阵、逆矩阵1i -∑以及协方差矩阵的行列式i ∑， 协方差矩阵计算公式如下11()(),1,2,3,41i ii N i jklj j lk k l i x x j k N ωωσμμ==--=-∑其中lj x 代表i ω类的第l 个样本，第j 个特征值；ij ωμ代表i ω类的i N 个样品第j 个特征的平均值lk x 代表i ω类的第l 个样品，第k 个特征值；iw k μ代表i ω类的i N 个样品第k 个特征的平均值。

《模式识别》实验报告-贝叶斯分类一、实验目的通过使用贝叶斯分类算法，实现对数据集中的样本进行分类的准确率评估，熟悉并掌握贝叶斯分类算法的实现过程，以及对结果的解释。

二、实验原理1.先验概率先验概率指在不考虑其他变量的情况下，某个事件的概率分布。

在贝叶斯分类中，需要先知道每个类别的先验概率，例如：A类占总样本的40%，B类占总样本的60%。

2.条件概率后验概率指在已知先验概率和条件概率下，某个事件发生的概率分布。

在贝叶斯分类中，需要计算每个样本在各特征值下的后验概率，即属于某个类别的概率。

4.贝叶斯公式贝叶斯公式就是计算后验概率的公式，它是由条件概率和先验概率推导而来的。

5.贝叶斯分类器贝叶斯分类器是一种基于贝叶斯定理实现的分类器，可以用于在多个类别的情况下分类，是一种常用的分类方法。

具体实现过程为：首先，使用训练数据计算各个类别的先验概率和各特征值下的条件概率。

然后，将测试数据的各特征值代入条件概率公式中，计算出各个类别的后验概率。

最后，取后验概率最大的类别作为测试数据的分类结果。

三、实验步骤1.数据集准备本次实验使用的是Iris数据集，数据包含150个Iris鸢尾花的样本，分为三个类别：Setosa、Versicolour和Virginica，每个样本有四个特征值：花萼长度、花萼宽度、花瓣长度、花瓣宽度。

2.数据集划分将数据集按7:3的比例分为训练集和测试集，其中训练集共105个样本，测试集共45个样本。

计算三个类别的先验概率，即Setosa、Versicolour和Virginica类别在训练集中出现的频率。

对于每个特征值，根据训练集中每个类别所占的样本数量，计算每个类别在该特征值下出现的频率，作为条件概率。

5.测试数据分类将测试集中的每个样本的四个特征值代入条件概率公式中，计算出各个类别的后验概率，最后将后验概率最大的类别作为该测试样本的分类结果。

6.分类结果评估将测试集分类结果与实际类别进行比较，计算分类准确率和混淆矩阵。

《模式识别》大作业人脸识别方法二---- 基于PCA 和FLD 的人脸识别的几何分类器（修改稿）一、 理论知识1、fisher 概念引出在应用统计方法解决模式识别问题时，为了解决“维数灾难”的问题，压缩特征空间的维数非常必要。

fisher 方法实际上涉及到维数压缩的问题。

fisher 分类器是一种几何分类器, 包括线性分类器和非线性分类器。

线性分类器有：感知器算法、增量校正算法、LMSE 分类算法、Fisher 分类。

若把多维特征空间的点投影到一条直线上，就能把特征空间压缩成一维。

那么关键就是找到这条直线的方向，找得好，分得好，找不好，就混在一起。

因此fisher 方法目标就是找到这个最好的直线方向以及如何实现向最好方向投影的变换。

这个投影变换恰是我们所寻求的解向量*W ，这是fisher 算法的基本问题。

样品训练集以及待测样品的特征数目为n 。

为了找到最佳投影方向，需要计算出各类均值、样品类内离散度矩阵i S 和总类间离散度矩阵w S 、样品类间离散度矩阵b S ，根据Fisher 准则，找到最佳投影准则，将训练集内所有样品进行投影，投影到一维Y 空间，由于Y 空间是一维的，则需要求出Y 空间的划分边界点，找到边界点后，就可以对待测样品进行进行一维Y 空间的投影，判断它的投影点与分界点的关系，将其归类。

Fisher 法的核心为二字：投影。

二、 实现方法1、 一维实现方法(1) 计算给类样品均值向量i m ，i m 是各个类的均值，i N 是i ω类的样品个数。

11,2,...,ii X im X i nN ω∈==∑(2) 计算样品类内离散度矩阵iS 和总类间离散度矩阵wS1()()1,2,...,i Ti i i X w ii S X m X m i nS Sω∈==--==∑∑(3) 计算样品类间离散度矩阵b S1212()()Tb S m m m m =--(4) 求向量*W我们希望投影后，在一维Y 空间各类样品尽可能地分开，也就是说我们希望两类样品均值之差（12m m -）越大越好，同时希望各类样品内部尽量密集，即希望类内离散度越小越好，因此，我们可以定义Fisher 准则函数：()Tb F Tw W S W J W W S W=使得()F J W 取得最大值的*W 为 *112()w WS m m -=-(5) 将训练集内所有样品进行投影*()Ty W X =(6) 计算在投影空间上的分割阈值0y在一维Y 空间，各类样品均值i m为 11,2,...,ii y imy i n N ω∈==∑样品类内离散度矩阵2i s和总类间离散度矩阵w s 22()ii iy sy mω∈=-∑21w ii ss==∑【注】【阈值0y 的选取可以由不同的方案： 较常见的一种是1122012N m N m y N N +=+另一种是121201ln(()/())22m m P P y N N ωω+=++- 】(7) 对于给定的X ，计算出它在*W 上的投影y (8) 根据决策规则分类0102y y X y y X ωω>⇒∈⎧⎨<⇒∈⎩2、程序中算法的应用Fisher 线性判别方法（FLD ）是在Fisher 鉴别准则函数取极值的情况下，求得一个最佳判别方向，然后从高位特征向量投影到该最佳鉴别方向，构成一个一维的判别特征空间将Fisher 线性判别推广到C-1个判决函数下，即从N 维空间向C-1维空间作相应的投影。

2015年12月实验一 Bayes 分类器的设计一、 实验目的：1. 对模式识别有一个初步的理解，能够根据自己的设计对贝叶斯决策理论算法有一个深刻地认识；2. 理解二类分类器的设计原理。

二、 实验条件：1. PC 微机一台和MATLAB 软件。

三、 实验原理：最小风险贝叶斯决策可按下列步骤进行：1. 在已知)(i P ω，)|(i X P ω，c i ,,1 =及给出待识别的X 的情况下，根据贝叶斯公式计算出后验概率：∑==c j jj i i i P X P P X P X P 1)()|()()|()|(ωωωωω c j ,,1 =2. 利用计算出的后验概率及决策表，按下式计算出采取i α决策的条件风险： ∑==c j j j i i X P X R 1)|(),()|(ωωαλα a i ,,1 =3. 对2中得到的a 个条件风险值)|(X R i α（a i ,,1 =）进行比较，找出使条件风险最小的决策k α，即：)|(min )|(,,1X R X R k c i k αα ==， 则k α就是最小风险贝叶斯决策。

四、 实验内容：假定某个局部区域细胞识别中正常（1ω）和非正常（2ω）两类先验概率分别为： 正常状态：)(1ωP =0.9；异常状态：)(2ωP =0.1。

现有一系列待观察的细胞，其观察值为x ：-3.9847 -3.5549 -1.2401 -0.9780 -0.7932 -2.8531-2.7605 -3.7287 -3.5414 -2.2692 -3.4549 -3.0752-3.9934 2.8792 -0.9780 0.7932 1.1882 3.0682-1.5799 -1.4885 -0.7431 -0.4221 -1.1186 4.2532)|(1ωx P )|(2ωx P 类条件概率分布正态分布分别为（-2，0.25）（2,4）。

决策表为011=λ(11λ表示),(j i ωαλ的简写)，12λ=6, 21λ=1，22λ=0。

《模式识别》实验报告班级：电子信息科学与技术13级02 班姓名：学号：指导老师:成绩：通信与信息工程学院二〇一六年实验一 最大最小距离算法一、实验内容1. 熟悉最大最小距离算法,并能够用程序写出。

2. 利用最大最小距离算法寻找到聚类中心,并将模式样本划分到各聚类中心对应的类别中.二、实验原理N 个待分类的模式样本{}N X X X ， 21,，分别分类到聚类中心{}N Z Z Z ， 21,对应的类别之中.最大最小距离算法描述：（1）任选一个模式样本作为第一聚类中心1Z 。

（2）选择离1Z 距离最远的模式样本作为第二聚类中心2Z 。

（3）逐个计算每个模式样本与已确定的所有聚类中心之间的距离，并选出其中的最小距离.（4）在所有最小距离中选出一个最大的距离，如果该最大值达到了21Z Z -的一定分数比值以上，则将产生最大距离的那个模式样本定义为新增的聚类中心，并返回上一步.否则，聚类中心的计算步骤结束。

这里的21Z Z -的一定分数比值就是阈值T ，即有：1021<<-=θθZ Z T（5）重复步骤（3）和步骤（4），直到没有新的聚类中心出现为止。

在这个过程中，当有k 个聚类中心{}N Z Z Z ， 21,时,分别计算每个模式样本与所有聚类中心距离中的最小距离值,寻找到N 个最小距离中的最大距离并进行判别,结果大于阈值T 是，1+k Z 存在，并取为产生最大值的相应模式向量；否则,停止寻找聚类中心。

（6)寻找聚类中心的运算结束后，将模式样本{}N i X i ,2,1, =按最近距离划分到相应的聚类中心所代表的类别之中。

三、实验结果及分析该实验的问题是书上课后习题2。

1，以下利用的matlab 中的元胞存储10个二维模式样本X ｛1}=［0;0］；X{2}=［1；1];X ｛3｝=[2;2]；X{4｝=[3；7]；X{5｝=[3;6］; X{6}=［4；6］；X{7}=［5；7];X{8}=[6；3］;X{9｝=［7;3］;X{10}=［7;4]；利用最大最小距离算法，matlab 运行可以求得从matlab 运行结果可以看出，聚类中心为971,,X X X ，以1X 为聚类中心的点有321,,X X X ,以7X 为聚类中心的点有7654,,,X X X X ，以9X 为聚类中心的有1098,,X X X 。

模式识别课程实验报告学院专业班级姓名学号指导教师提交日期1 Data PreprocessingThe provide dataset includes a training set with 3605 positive samples and 10055 negative samples, and a test set with 2043 positive samples and 4832 negative samples. A 2330-dimensional Haar-like feature was extracted for each sample. For high dimensional data, we keep the computation manageable by sampling , feature selection, and dimension reduction.1.1 SamplingIn order to make the samples evenly distributed, we calculate the ratio of negative samples and positive samples int test set. And then randomly select the same ratio of negative samples in training set. After that We use different ratios of negative and positive samples to train the classifier for better training speed.1.2 Feature SelectionUnivariate feature selection can test each feature, measure the relationship between the feature and the response variable so as to remove unimportant feature variables. In the experiment, we use the method sklearn.feature_selection.SelectKBest to implement feature selection. We use chi2 which is chi-squared stats of non-negative features for classification tasks to rank features, and finally we choose 100 features ranked in the top 100.2 Logistic regressionIn the experiment, we choose the logistic regression model, which is widely used in real-world scenarios. The main consideration in our work is based on the binary classification logic regression model.2.1 IntroductionA logistic regression is a discriminant-based approach that assumes that instances of a class are linearly separable. It can obtain the final prediction model by directly estimating the parameters of the discriminant. The logistic regression model does not model class conditional density, but rather models the class condition ratio.2.2 processThe next step is how to obtain the best evaluation parameters, making the training of the LR model can get the best classification effect. This process can also be seen as a search process, that is, in an LR model of the solution space, how to find a design with our LR model most match the solution. In order to achieve the best available LR model, we need to design a search strategy.The intuitive idea is to evaluate the predictive model by judging the degree of matching between the results of the model and the true value. In the field of machine learning, the use of loss function or cost function to calculate the forecast. For the classification, logistic regression uses the Sigmoid curve to greatly reduce the weight of the points that are far from the classification plane through the nonlinear mapping, which relatively increases the weight of the data points which is most relevant to the classification.2.3 Sigmoid functionWe should find a function which can separate two in the two classes binary classification problem. The ideal function is called step function. In this we use the sigmoid function.()z e z -+=11σWhen we increase the value of x, the sigmoid will approach 1, and when we decrease the value of x, the sigmoid will gradually approaches 0. The sigmoid looks like a step function On a large enough scale.2.4 gradient descenti n i i T i x x y L ∑=+--=∂∂-=1t t1t ))(()(θσαθθθαθθThe parameter α called learning rate, in simple terms is how far each step. this parameter is very critical. parameter σis sigmoid function that we introduce in 2.3.3 Train classifierWe use the gradient descent algorithm to train the classifier. Gradient descent is a method of finding the local optimal solution of a function using the first order gradient information. In optimized gradient rise algorithm, each step along the gradient negative direction. The implementation code is as follows:# calculate the sigmoid functiondef sigmoid(inX):return 1.0 / (1 + exp(-inX))#train a logistic regressiondef trainLogisticRegression(train_x, train_y, opts):numSamples, numFeatures = shape(train_x)alpha = opts['alpha'];maxIter = opts['maxIter']weights = ones((numFeatures, 1))# optimize through gradient descent algorilthmfor k in range(maxIter):if opts['optimizeType'] == 'gradDescent': # gradient descent algorilthm output = sigmoid(train_x * weights)error = train_y - outputweights = weights + alpha * train_x.transpose() * error return weightsIn the above program, we repeat the following steps until the convergence:(1) Calculate the gradient of the entire data set(2) Use alpha x gradient to update the regression coefficientsWhere alpha is the step size, maxIter is the number of iterations.4 evaluate classifier4.1 optimizationTo find out when the classifier performs best, I do many experiments. The three main experiments are listed below.First.I use two matrix types of data to train a logistic regression model using some optional optimize algorithm, then use some optimization operation include alpha and maximum number of iterations. These operations are mainly implemented by this function trainLogisticRegression that requires three parameters train_x, train_y, opts, of which two parameters are the matrix type of training data set, the last parameter is some optimization operations, including the number of steps and the number of iterations. And the correct rate as follows：When we fixed the alpha, change the number of iterations, we can get the results as shown below：Red: alpha = 0.001Yellow: alpha = 0.003Blue: alpha = 0.006Black: alpha = 0.01Green: alpha = 0.03Magenta: alpha = 0.3This line chart shows that if the iterations too small, the classifier will perform bad. As the number of iterations increases, the accuracy will increase. And we can konw iterations of 800 seems to be better. The value of alpha influences the result slightly. If the iterations is larger then 800, the accuracy of the classifier will stabilize and the effect of the step on it can be ignored.Second.When we fixed the iterations, change the alpha, we can get the results as shown below：This line chart shows when the number of iterations is larger 800, the accuracy is relatively stable, with the increase of the alpha, the smaller the change. And when the number of iterations is small, for example, the number of times is 100, the accuracy is rather strange, the accuracy will increase with the increase of alpha. We can know that when the number of iterations is small, even if the alpha is very small, its accuracy is not high. The number of iterations and the alpha is important for the accuracy of the logical regression model training.Third.The result of the above experiment is to load all the data to train the classifier, but there are 3605 pos training data but 10055 neg training data. So I am curious about whether can I use less neg training data to train the classifier for better training speed.I use the test_differentNeg.py to does this experiment:Red: iterations = 100 Yellow: iterations = 300 Blue: iterations = 800 Black: iterations = 1000The line chart shows that the smaller the negative sample, the lower the accuracy. However, as the number of negative samples increases, the accuracy of the classifier.I found that when the number of negative samples is larger 6000, the accuracy was reduced and then began to increase.4.2 cross-validationWe divided the data set into 10 copies on average，9 copies as a training set and 1 copies as a test set.we can get the results as shown below:Red: alpha = 0.001Yellow: alpha = 0.003Blue: alpha = 0.006Black: alpha = 0.01Green: alpha = 0.03Magenta: alpha = 0.3This figure shows that if the iterations too small, the classifier will perform bad. Asthe number of iterations increases, the accuracy will increase. And we can konw iterations of 1000 seems to be better. The value of alpha influences the result slightly.If the iterations is larger then 1000, the accuracy of the classifier will achieve 84% and stable. And the effect of the step on it can be ignored.5 ConclusionIn this experiment, We notice that no matter before or after algorithm optimization,the test accuracy does not achieve our expectation. At first the accuracy of LR can reach 80%. After optimization, the accuracy of LR can reach 88%. I think there are several possible reasons below：(1) The training set is too small for only about 700 samples for active training sets, while the negative training set has only 800 samples;(2) We did not use a more appropriate method to filter the samples;(3) The method of selecting features is not good enough because it is too simple;(4) Dimension reduction does not be implemented, so that The high dimension of features increases the computation complexity and affects the accuracy;(5) The test sets may come from different kinds of video or images which are taken from different areas.(6) The number of iterations is set too small or the alpha is set too small or too large. These questions above will be improved in future work.In this project, we use Logistic regression to solve the binary classification problem. Before the experiment, we studied and prepared the algorithm of the LR model and reviewed other machine learning models studied in the pattern recognition course. In this process, we use python with a powerful machine learning library to implement, continue to solve the various problems, and optimize the algorithm to make the classifier perform better. At the same time, we also collaborate and learn from each other. Although the project takes us a lot of time, We have consolidated the theoretical knowledge and have fun in practice.。

模式识别学习报告(团队)
简介
本报告是我们团队就模式识别研究所做的总结和讨论。

模式识别是一门关于如何从已知数据中提取信息并作出决策的学科。

在研究过程中，我们通过研究各种算法和技术，了解到模式识别在人工智能、机器研究等领域中的重要性并进行实践操作。

研究过程
在研究过程中，我们首先了解了模式识别的基本概念和算法，如KNN算法、朴素贝叶斯算法、决策树等。

然后我们深入研究了SVM算法和神经网络算法，掌握了它们的实现和应用场景。

在实践中，我们使用了Python编程语言和机器研究相关的第三方库，比如Scikit-learn等。

研究收获
通过研究，我们深刻认识到模式识别在人工智能、机器研究领域中的重要性，了解到各种算法和技术的应用场景和优缺点。

同时我们也发现，在实践中，数据的质量决定了模型的好坏，因此我们需要花费更多的时间来处理数据方面的问题。

团队讨论
在研究中，我们也进行了很多的团队讨论和交流。

一方面，我们优化了研究方式和效率，让研究更加有效率；另一方面我们还就机器研究的基本概念和算法的前沿发展进行了讨论，并提出了一些有趣的问题和方向。

总结
通过学习和团队讨论，我们深刻认识到了模式识别在人工智能和机器学习领域中的核心地位，并获得了实践经验和丰富的团队协作经验。

我们相信这些学习收获和经验会在今后的学习和工作中得到很好的应用。

《模式识别导论》期末大作业2010-2011-2学期第 3 组《模式识别》大作业人脸识别方法一---- 基于PCA 和欧几里得距离判据的模板匹配分类器一、 理论知识1、主成分分析主成分分析是把多个特征映射为少数几个综合特征的一种统计分析方法。

在多特征的研究中，往往由于特征个数太多，且彼此之间存在着一定的相关性，因而使得所观测的数据在一定程度上有信息的重叠。

当特征较多时，在高维空间中研究样本的分布规律就更麻烦。

主成分分析采取一种降维的方法，找出几个综合因子来代表原来众多的特征，使这些综合因子尽可能地反映原来变量的信息，而且彼此之间互不相关，从而达到简化的目的。

主成分的表示相当于把原来的特征进行坐标变换（乘以一个变换矩阵），得到相关性较小（严格来说是零）的综合因子。

1.1 问题的提出一般来说，如果N 个样品中的每个样品有n 个特征12,,n x x x ，经过主成分分析，将它们综合成n 综合变量，即11111221221122221122n n n n n n n nn ny c x c x c x y c x c x c x y c x c x c x =+++⎧⎪=+++⎪⎨⎪⎪=+++⎩ij c 由下列原则决定：1、i y 和j y （i j ≠，i,j = 1,2,...n ）相互独立；2、y 的排序原则是方差从大到小。

这样的综合指标因子分别是原变量的第1、第2、……、第n 个主分量，它们的方差依次递减。

1.2 主成分的导出我们观察上述方程组，用我们熟知的矩阵表示，设12n x x X x ⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎣⎦是一个n 维随机向量，12n y y Y y ⎡⎤⎢⎥⎢⎥=⎢⎥⎢⎥⎣⎦是满足上式的新变量所构成的向量。

于是我们可以写成Y=CX,C 是一个正交矩阵，满足CC ’=I 。

坐标旋转是指新坐标轴相互正交，仍构成一个直角坐标系。

变换后的N 个点在1y 轴上有最大方差，而在n y 轴上有最小方差。

第一部分决策树1、决策树算法ID3简介决策树方法是数据挖掘地核心技术算法之一，它通过将大量数据有目地地分类，从中找出一些潜在地、对决策有价值地信息，常用于预测模型中.国际上最早和最有影响地决策树方法是由 Quinlan 研制地 ID3 决策树生成算法.该算法是采用信息增益率作为属性选择地度量标准，用信息增益作为决策属性分类判别能力地度量，进行决策节点属性地选择.2、依据ID3算法构造决策树现以是否适合打网球为例说明算法地具体应用过程（其中6个变量依次为：编号、天气{Sunny、Overcast、Rain}、温度{热、冷、适中}、湿度{高、正常}、风力{强、弱}以及最后是否去玩地决策{是、否}），训练数据见下表：这里我们先不讨论算法（这里用地是ID3/C4.5），把一棵决策树建立起来再说.我们要建立地决策树地形式类似于“如果天气怎么样，去玩；否则，怎么着怎么着”地树形分叉.那么问题是用哪个属性（即变量，如天气、温度、湿度和风力）最适合充当这颗树地根节点，在它上面没有其他节点，其他地属性都是它地后续节点.借用信息论地概念，我们用一个统计量，“信息增益”（Information Gain）来衡量一个属性区分以上数据样本地能力.信息增益量越大，这个属性作为一棵树地根节点就能使这棵树更简洁，比如说一棵树可以这么读成，如果风力弱，就去玩；风力强，再按天气、温度等分情况讨论，此时用风力作为这棵树地根节点就很有价值.如果说，风力弱，再又天气晴朗，就去玩；如果风力强，再又怎么怎么分情况讨论，这棵树相比就不够简洁了.计算信息增益地公式需要用到“熵”（Entropy）.名词越来越多，让我们通过手工计算记住它们地计算方法.1）计算熵我们检查地属性是是否出去玩.一共是14条记录，你能数出取值为yes地记录有9个，取值为no地有5个，我们说这个样本里有9个正例，5个负例，记为S(9+,5-)，S是样本地意思(Sample).这里熵记为Entropy(S),计算公式为：Entropy(S)= -(9/14)*log(9/14)-(5/14)*log(5/14)解释一下，9/14是正例地个数与总记录之比，同样5/14是负例占总记录地比例.log(.)是以2为底地对数.Entropy(S)=-(9/14)*LOG(9/14,2)-(5/14)*LOG(5/14,2) =0.940：2）分别以Wind、Humidity、Outlook和Temperature作为根节点，计算其信息增益可以数得，属性Wind中取值为Weak地记录有Normal地记录有8条，其中正例6个，负例2个；同样，取值为Strong地记录6个，正例负例个3个.我们可以计算相应地熵为：Entropy(Weak)=-(6/8)*log(6/8)-(2/8)*log(2/8)=0.811Entropy(Strong)=-(3/6)*log(3/6)-(3/6)*log(3/6)=1.0现在就可以计算出相应地信息增益了：Gain(Wind)=Entropy(S)-(8/14)*Entropy(Weak)-(6/14)*Entropy(Strong)=0.9 40-(8/14)*0.811-(6/14)*1.0=0.048同理，如果以Humidity作为根节点：Entropy(High)=0.985 ; Entropy(Normal)=0.592Gain(Humidity)=0.940-(7/14)*Entropy(High)-(7/14)*Entropy(Normal)=0.15以Outlook作为根节点：Entropy(Sunny)=0.971 ; Entropy(Overcast)=0.0 ; Entropy(Rain)=0.971Gain(Outlook)=0.940-(5/14)*Entropy(Sunny)-(4/14)*Entropy(Overcast)-(5 /14)*Entropy(Rain)=0.247以Temperature作为根节点：Entropy(Cool)=0.811 ; Entropy(Hot)=1.0 ; Entropy(Mild)=0.918Gain(Temperature)=0.940-(4/14)*Entropy(Cool)-(4/14)*Entropy(Hot)-(6/1 4)*Entropy(Mild)=0.029这样我们就得到了以上四个属性相应地信息增益值：Gain(Wind)=0.048 ；Gain(Humidity)=0.151 ； Gain(Outlook)=0.247；Gain(Temperature)=0.029最后按照信息增益最大地原则选Outlook为根节点.子节点重复上面地步骤.这颗树可以是这样地，它读起来就跟你认为地那样：OutlookHumidity Yes WindHigh NormalStrong WeakNo Yes No Yes3、总结ID3 算法地核心是确定分枝准则，即如何从众多地属性变量中选择一个最佳地分裂属性.通常，在树地每个节点上使用信息增益（informationgain）度量选择属性.选择具有最高增益地属性作为当前节点地测试属性.该属性使得对结果划分中地样本分类所需地信息量最小，并反映划分地最小随机性或“不纯性”.这种理论方法使得对一个对象分类所需地期望测试数目达到最小，并确保找到一棵简单地树 .第二部分：用GEP设计决策树1、GEP简介GEP是最近几年才发展起来地一种新型地自适应演化算法，并且已经在很多领域地运用中取得了较好地效果.GEP借用了生命科学中地基因，染色体等概念和思路,用遗传算法作数据挖掘，发现规则，发现公式等等.GEP起源于生物学领域，它继承了传统地遗传算法和遗传编程地优点，在此基础上发展了属于GEP特有地遗传操作，大量地实验表明，GEP算法以及各种改进地GEP算法在发现未知先验知识地数据函数关系以及对时间序列分析都有着非常好地表现.2、GEP实现GEP地基因结构主要包括两个主要地成员：染色体(Chromosome)和表达式树(K-Expression).两者之间地关系是：染色体中所包含地遗传信息由表达式树来解码.其中染色体是由一个或者多个基因组成，每个基因包括头部(head)和尾部(tail).GEP中基因组（染色体）由一个线性地定长基因符号串组成.它是一种ORF(Open reading frames and genes)地编码序列.这种ORF结构具有如下优势：（1）GEP染色体由一个或几个基因组成；（2）染色体长度确定，ORF长度灵活可变.GEP地基因主要有头部（head）和尾部（tail）构成.其中头部是从函数集F和终点集T中随机产生，而尾部只能从终点集T中随机产生.整个基因地长度（lchrom）等于基因头长（head）加上基因尾长（tail），也即lchrom＝head＋tail，其中tail=head* (n-1)+1 ，n为函数集中得最大操作目数.GEP地多基因染色体（1）复杂个体地进化需要使用多基因染色体；（2）GEP染色体通常由多个等长基因组成；（3）对于每个特定问题，基因数量和头部长度事先确定；（4）每条基因解码为一个子表达式树，子表达式树交互组成复杂实体.3、GEP算法特点1）GEP 继承了GA 地刚性，规矩，快速，易用和GP地柔性，易变，多能比GA,GP 提高速度 100 -1000000倍GEP是GA家族地新成员.2）GEP不是生物工程，不是生命科学.n 借用了生命科学中基因，染色体等概念和思路，用遗传计算作数据挖掘，发现公式，发现规则等等.3）GEP编程和GA,GP编程有很多相似地地方，GEP继承了GA，GP编程地思想，GEP将知识点看成是知识基因，若干个知识基因经过合理地结构组合在一起，在GEP中称为染色体（Chromosomes），以染色体得形式参加遗传操作（或繁殖活动），产生新个体.4、GEP设计决策树还是以是否打网球为例：头部：Outlook，Temperature，Humidity，Wind，No，Yes尾部：No，Yes长度：14适应度值：信息增益随机产生一个14位地串.解码：首先，设置一个计数变量Count=1,然后从左到右扫描基因表达式中地字符：A）对于函数符号（非终结符），若函数对应n个参数，则Count加上n-1B）对于终结符，则nCount减去1C）当nCount为0，扫描停止计算适应度值，适应度值越高，存活地概率就越大.5、总结GEP编程和遗传算法有很多相似之处，继承了GA，GP算法地特点，并加以改进.染色体实际就是用连接运算符(LinkOperator)连接起来地多个基因(Gene).基因即是定长地字符串,它由头部(Head)和尾部(Tail)组成.头部包含变量和运算符而尾部只包含变量.另外，GEP本身还有一个重要地特点是在基因个体中引入了中性区域，这部分区域不直接参加表现性地进化，但由于其自身在进化操作中地改变，积累了一些对整个进化过程有用地因素，因此中性区域也是不容忽视地.因此未来地工作还将引入GEP子模式地概念分析GEP中性区域对整个进化过程地影响.GEP地运行和GA,GP相差无几,都是由个体构成种群(Population)进行各种遗传操作,再进行自然选择,直到找到最优解或是预定地进化代数达到为止.参考文献［1］Pang-Ning Tan Michael Steinbach Vipin Kumar.数据挖掘导论［M］.北京：人民邮电出版社,2006:2-7［2］陈安,陈宁.数据挖掘技术及应用［M］.北京：科学出版社,2006 年:116-118［3］陈安升、蔡之华.一种新地GEP解码方法及其应用版权申明本文部分内容，包括文字、图片、以及设计等在网上搜集整理.版权为个人所有This article includes some parts, including text, pictures,and design. Copyright is personal ownership.NrpoJac3v1用户可将本文地内容或服务用于个人学习、研究或欣赏，以及其他非商业性或非盈利性用途，但同时应遵守著作权法及其他相关法律地规定，不得侵犯本网站及相关权利人地合法权利.除此以外，将本文任何内容或服务用于其他用途时，须征得本人及相关权利人地书面许可，并支付报酬.1nowfTG4KIUsers may use the contents or services of this articlefor personal study, research or appreciation, and othernon-commercial or non-profit purposes, but at the same time,they shall abide by the provisions of copyright law and otherrelevant laws, and shall not infringe upon the legitimaterights of this website and its relevant obligees. In addition,when any content or service of this article is used for otherpurposes, written permission and remuneration shall beobtained from the person concerned and the relevant obligee.fjnFLDa5Zo转载或引用本文内容必须是以新闻性或资料性公共免费信息为使用目地地合理、善意引用，不得对本文内容原意进行曲解、修改，并自负版权等法律责任.tfnNhnE6e5Reproduction or quotation of the content of this article must be reasonable and good-faith citation for the use of news or informative public free information. It shall not misinterpret or modify the original intention of the content of this article, and shall bear legal liability such as copyright.HbmVN777sL。

模式识别技术实验报告本实验旨在探讨模式识别技术在计算机视觉领域的应用与效果。

模式识别技术是一种人工智能技术，通过对数据进行分析、学习和推理，识别其中的模式并进行分类、识别或预测。

在本实验中，我们将利用机器学习算法和图像处理技术，对图像数据进行模式识别实验，以验证该技术的准确度和可靠性。

实验一：图像分类首先，我们将使用卷积神经网络（CNN）模型对手写数字数据集进行分类实验。

该数据集包含大量手写数字图片，我们将训练CNN模型来识别并分类这些数字。

通过调整模型的参数和训练次数，我们可以得到不同准确度的模型，并通过混淆矩阵等评估指标来评估模型的性能和效果。

实验二：人脸识别其次，我们将利用人脸数据集进行人脸识别实验。

通过特征提取和比对算法，我们可以识别不同人脸之间的相似性和差异性。

在实验过程中，我们将测试不同算法在人脸识别任务上的表现，比较它们的准确度和速度，探讨模式识别技术在人脸识别领域的应用潜力。

实验三：异常检测最后，我们将进行异常检测实验，使用模式识别技术来识别图像数据中的异常点或异常模式。

通过训练异常检测模型，我们可以发现数据中的异常情况，从而做出相应的处理和调整。

本实验将验证模式识别技术在异常检测领域的有效性和实用性。

结论通过以上实验，我们对模式识别技术在计算机视觉领域的应用进行了初步探索和验证。

模式识别技术在图像分类、人脸识别和异常检测等任务中展现出了良好的性能和准确度，具有广泛的应用前景和发展空间。

未来，我们将进一步深入研究和实践，探索模式识别技术在更多领域的应用，推动人工智能技术的发展和创新。

【字数：414】。

北京邮电大学实验报告题目:模式识别班级：27专业：信息工程姓名：吕则东序号：20目录实验一、Bayes分类器设计 (3)1.1实验类型： (3)1.2实验目的： (3)1.3实验条件： (3)1.4实验原理： (3)1.5实验内容： (4)1.6 实验要求： (4)1.7实验代码和结果 (5)最小错误率贝叶斯分类器设计 (6)实验程序： (6)运行结果 (8)最小风险贝叶斯决策分类器设计 (8)实验程序 (9)运行结果 (11)实验二、基于Fisher准则线性分类器设计 (13)2.1实验类型： (13)2.2实验目的： (13)2.3实验条件： (13)2.4实验原理： (13)2.5实验内容： (14)2.6实验要求： (17)2.7实验代码和实验结果 (18)分类器设计和分类结果 (18)实验结果 (20)实验分析： (25)实验四、近邻法分类器设计 (26)4.1 实验类型： (26)4.2 实验目的： (26)4.3 实验条件： (26)4.4 实验原理： (26)4.5 实验内容 (27)4.6 实验要求： (33)实验代码： (35)实验结果： (39)问题3回答： (41)实验总结 (41)实验一、Bayes 分类器设计1.1实验类型：基础型：Bayes 分类器设计1.2实验目的：本实验旨在让同学对模式识别有一个初步的理解，能够根据自己的设计对贝叶斯决策理论算法有一个深刻地认识，理解二类分类器的设计原理。

1.3实验条件：matlab 软件1.4实验原理：最小风险贝叶斯决策可按下列步骤进行：(1)在已知)(i P ω，)(i X P ω，i=1,…，c 及给出待识别的X 的情况下，根据贝叶斯公式计算出后验概率： ∑==cj iii i i P X P P X P X P 1)()()()()(ωωωωω j=1,…，x(2)利用计算出的后验概率及决策表，按下面的公式计算出采取i a ,i=1,…，a 的条件风险∑==cj jjii X P a X a R 1)(),()(ωωλ,i=1,2,…,a(3)对(2)中得到的a 个条件风险值)(X a R i ,i=1,…，a 进行比较，找出使其条件风险最小的决策k a ，即则k a 就是最小风险贝叶斯决策。

一、实验背景随着计算机科学和信息技术的飞速发展，模式识别技术在各个领域得到了广泛应用。

模式识别是指通过对数据的分析、处理和分类，从大量数据中提取有用信息，从而实现对未知模式的识别。

本实验旨在通过实践操作，加深对模式识别基本概念、算法和方法的理解，并掌握其应用。

二、实验目的1. 理解模式识别的基本概念、算法和方法；2. 掌握常用的模式识别算法，如K-均值聚类、决策树、支持向量机等；3. 熟悉模式识别在实际问题中的应用，提高解决实际问题的能力。

三、实验内容本次实验共分为三个部分：K-均值聚类算法、决策树和神经网络。

1. K-均值聚类算法（1）实验目的通过实验加深对K-均值聚类算法的理解，掌握其基本原理和实现方法。

（2）实验步骤① 准备实验数据：选取一组二维数据，包括100个样本，每个样本包含两个特征值；② 初始化聚类中心：随机选择K个样本作为初始聚类中心；③ 计算每个样本到聚类中心的距离，并将其分配到最近的聚类中心；④ 更新聚类中心：计算每个聚类中所有样本的均值，作为新的聚类中心；⑤ 重复步骤③和④，直到聚类中心不再变化。

（3）实验结果通过实验，可以得到K个聚类中心，每个样本被分配到最近的聚类中心。

通过可视化聚类结果，可以直观地看到数据被分成了K个类别。

2. 决策树（1）实验目的通过实验加深对决策树的理解，掌握其基本原理和实现方法。

（2）实验步骤① 准备实验数据：选取一组具有分类标签的二维数据，包括100个样本，每个样本包含两个特征值；② 选择最优分割特征：根据信息增益或基尼指数等指标，选择最优分割特征；③ 划分数据集：根据最优分割特征，将数据集划分为两个子集；④ 递归地执行步骤②和③，直到满足停止条件（如达到最大深度、叶节点中样本数小于阈值等）；⑤ 构建决策树：根据递归分割的结果，构建决策树。

（3）实验结果通过实验，可以得到一棵决策树，可以用于对新样本进行分类。

3. 神经网络（1）实验目的通过实验加深对神经网络的理解，掌握其基本原理和实现方法。

实验报告实验课程名称：模式识别：王宇班级：20110813 学号：2011081325注：1、每个实验中各项成绩按照5分制评定，实验成绩为各项总和2、平均成绩取各项实验平均成绩3、折合成绩按照教学大纲要求的百分比进行折合2014年6月实验一、图像的贝叶斯分类一、实验目的将模式识别方法与图像处理技术相结合，掌握利用最小错分概率贝叶斯分类器进行图像分类的基本方法，通过实验加深对基本概念的理解。

二、实验仪器设备及软件HP D538、MATLAB三、实验原理概念：阈值化分割算法是计算机视觉中的常用算法，对灰度图象的阈值分割就是先确定一个处于图像灰度取值围的灰度阈值，然后将图像中每个像素的灰度值与这个阈值相比较。

并根据比较的结果将对应的像素划分为两类，灰度值大于阈值的像素划分为一类，小于阈值的划分为另一类，等于阈值的可任意划分到两类中的任何一类。

最常用的模型可描述如下：假设图像由具有单峰灰度分布的目标和背景组成，处于目标和背景部相邻像素间的灰度值是高度相关的，但处于目标和背景交界处两边的像素灰度值有较大差别，此时，图像的灰度直方图基本上可看作是由分别对应于目标和背景的两个单峰直方图混合构成。

而且这两个分布应大小接近，且均值足够远，方差足够小，这种情况下直方图呈现较明显的双峰。

类似地，如果图像中包含多个单峰灰度目标，则直方图可能呈现较明显的多峰。

上述图像模型只是理想情况，有时图像中目标和背景的灰度值有部分交错。

这时如用全局阈值进行分割必然会产生一定的误差。

分割误差包括将目标分为背景和将背景分为目标两大类。

实际应用中应尽量减小错误分割的概率，常用的一种方法为选取最优阈值。

这里所谓的最优阈值，就是指能使误分割概率最小的分割阈值。

图像的直方图可以看成是对灰度值概率分布密度函数的一种近似。

如一幅图像中只包含目标和背景两类灰度区域，那么直方图所代表的灰度值概率密度函数可以表示为目标和背景两类灰度值概率密度函数的加权和。

《模式识别》实验报告班电子信息科学与技术13级02 班级：姓名：学号：指导老师：成绩：通信与信息工程学院二〇一六年实验一 最大最小距离算法一、实验内容1. 熟悉最大最小距离算法，并能够用程序写出。

2. 利用最大最小距离算法寻找到聚类中心，并将模式样本划分到各聚类中心对应的类别中。

二、实验原理N 个待分类的模式样本{}N X X X ， 21,，分别分类到聚类中心{}N Z Z Z ， 21,对应的类别之中。

最大最小距离算法描述：（1）任选一个模式样本作为第一聚类中心1Z 。

（2）选择离1Z 距离最远的模式样本作为第二聚类中心2Z 。

（3）逐个计算每个模式样本与已确定的所有聚类中心之间的距离，并选出其中的最小距离。

（4）在所有最小距离中选出一个最大的距离，如果该最大值达到了21Z Z -的一定分数比值以上，则将产生最大距离的那个模式样本定义为新增的聚类中心，并返回上一步。

否则，聚类中心的计算步骤结束。

这里的21Z Z -的一定分数比值就是阈值T ，即有：1021<<-=θθZ Z T（5）重复步骤（3）和步骤（4），直到没有新的聚类中心出现为止。

在这个过程中，当有k 个聚类中心{}N Z Z Z ， 21,时，分别计算每个模式样本与所有聚类中心距离中的最小距离值，寻找到N 个最小距离中的最大距离并进行判别，结果大于阈值T 是，1+k Z 存在，并取为产生最大值的相应模式向量；否则，停止寻找聚类中心。

（6）寻找聚类中心的运算结束后，将模式样本{}N i X i ,2,1, =按最近距离划分到相应的聚类中心所代表的类别之中。

三、实验结果及分析该实验的问题是书上课后习题2.1，以下利用的matlab 中的元胞存储10个二维模式样本X{1}=[0;0];X{2}=[1;1];X{3}=[2;2];X{4}=[3;7];X{5}=[3;6]; X{6}=[4;6];X{7}=[5;7];X{8}=[6;3];X{9}=[7;3];X{10}=[7;4]; 利用最大最小距离算法，matlab 运行可以求得从matlab 运行结果可以看出，聚类中心为971,,X X X ，以1X 为聚类中心的点有321,,X X X ，以7X 为聚类中心的点有7654,,,X X X X ，以9X 为聚类中心的有1098,,X X X 。

模式识别实验报告实验一、线性分类器的设计与实现1. 实验目的：掌握模式识别的基本概念，理解线性分类器的算法原理。

2. 实验要求：（1）学习和掌握线性分类器的算法原理；（2）在MATLAB 环境下编程实现三种线性分类器并能对提供的数据进行分类；（3）对实现的线性分类器性能进行简单的评估（例如算法适用条件，算法效率及复杂度等）。

注：三种线性分类器为，单样本感知器算法、批处理感知器算法、最小均方差算法批处理感知器算法算法原理：感知器准则函数为J p a=(−a t y)y∈Y，这里的Y(a)是被a错分的样本集，如果没有样本被分错，Y就是空的，这时我们定义J p a为0.因为当a t y≤0时，J p a是非负的，只有当a是解向量时才为0，也即a在判决边界上。

从几何上可知，J p a是与错分样本到判决边界距离之和成正比的。

由于J p梯度上的第j个分量为∂J p/ða j,也即∇J p=(−y)y∈Y。

梯度下降的迭代公式为a k+1=a k+η(k)yy∈Y k，这里Y k为被a k错分的样本集。

算法伪代码如下：begin initialize a，η(∙)，准则θ，k=0do k=k+1a=a+η(k)yy∈Y k|<θuntil | ηk yy∈Y kreturn aend因此寻找解向量的批处理感知器算法可以简单地叙述为：下一个权向量等于被前一个权向量错分的样本的和乘以一个系数。

每次修正权值向量时都需要计算成批的样本。

算法源代码：unction [solution iter] = BatchPerceptron(Y,tau)%% solution = BatchPerceptron(Y,tau) 固定增量批处理感知器算法实现%% 输入：规范化样本矩阵Y,裕量tau% 输出：解向量solution，迭代次数iter[y_k d] = size(Y);a = zeros(1,d);k_max = 10000; %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% k=0;y_temp=zeros(d,1);while k<k_maxc=0;for i=1:1:y_kif Y(i,:)*a'<=tauy_temp=y_temp+Y(i,:)';c=c+1;endendif c==0break;enda=a+y_temp';k=k+1;end %%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% %k = k_max;solution = a;iter = k-1;运行结果及分析：数据1的分类结果如下由以上运行结果可以知道，迭代17次之后，算法得到收敛，解出的权向量序列将样本很好的划分。

院系：计算机科学学院专业：智能科学与技术年级： 2012 级课程名称：模式识别组号： 13组组员：徐灿马卿指导教师：孙阳光老师2014年12月30日样本分析的图像（此处把数据改成两类，男生的单独为一个文件，女生的单独为一个文件）实验结果分析P0.5-P0.5时328个样本的错误率分析P0.5-P0.5时124个样本的错误率分析P0.75-P0.25时328个样本的错误率分析P0.75-P0.25时124个样本的错误率分析P0.9-P0.1时328个样本的错误率分析P0.9-P0.1时124个样本的错误率分析表格1身高和体重单独下各样本下各种概率的错误率分析样本概率为P0.5--P0.5误差概率概率P 0.75—P0.25误差概率概率P 0.9—P0.1误差概率328个样本身高错误个数：33错误率为：10.06%错误个数：60错误率为：18.29%错误个数：81错误率为：24.70% 体重错误个数：45错误率为：13.72%错误个数：68错误率为：20.73%错误个数：89错误率为：27.13%124个样本身高错误个数：16错误率为：12.90%错误个数：31错误率为：25.00%错误个数：34错误率为：27.42% 体重错误个数：21错误率为：16.94%错误个数：35错误率为：28.23%错误个数：37错误率为：29.84%根据表格内容，选择P0.5——P0.5时的概率对样本3进行分析，得到的结果以身高乘以体重的算法来计算错误率分类时的结果P0.5-P0.5时328个样本的错误率分析P0.5-P0.5时124个样本的错误率分析P0.75-P0.25时124个样本的错误率分析P0.9-P0.1时124个样本的错误率分析表格2身高和体重乘积下各样本下各种概率的错误率分析样本概率为P0.5—P0.5时的身高体重错误率概率为P0.75—P0.25时的身高体重错误率概率为P0.9—P0.1时的身高体重错误率样本为328时分类错误个数：30分类错误率为：9.15% 分类错误个数：37分类错误率为：11.28%分类错误个数：49分类错误率为：14.94%样本为124时分类错误个数：17分类错误率为：13.71% 分类错误个数：19分类错误率为：15.32%分类错误个数：23分类错误率为：18.55%根据表格内容，选择P0.5——P0.5时的概率对样本3进行分析，得到的结果根据样本得到的fisher分界线实验结果分析样本为328时的错误率分析：样本为90时的错误率分析身高和体重相关时的bayes（贝叶斯）判别性别时的分类线身高条件先验概率分布曲线身高条件后验概率分布曲线最小风险时bayes分类器概率分布曲线根据样本得到的fisher分界线最小风险时bayes分类器概率分布曲线结果分析;由两个图可以看出，由fisher分类法得到的错误率比bayes的错误率低很多，但是当样本的数据分布不均时，使用fisher分类法得到的错误率会比bayes分类法得到的错误率高。