模式识别实验

《模式识别》实验指导

实验用数据说明：

¾ 训练样本集

1) FAMALE.TXT——50个女生的身高、体重数据

2) MALE.TXT——50个男生的身高、体重数据

¾ 测试样本集

1) test1.txt——35个同学的身高、体重、性别数据（15个女生、20个男生）

2) test2.txt——300个同学的身高、体重、性别数据（50个女生、250个男生）

实验一 Bayes分类器设计

一、实验目的

1) 加深对Bayes分类器原理的理解和认识

2) 掌握Bayes分类器的设计方法

二、实验环境

1) 具有相关编程软件的PC机

三、实验原理

1) Bayes分类器的理论基础

2) 分类器的性能评价

四、实验内容

1) 用FAMALE.TXT和MALE.TXT的数据作为训练样本集，建立Bayes分类器；

2) 用测试样本数据test2.txt对该分类器进行测试;

3) 调整特征、分类器等方面的一些因素，考察它们对分类器性能的影响，从而加深对

所学内容的理解和感性认识。

五、实验步骤

1) 应用单个特征进行实验：以（a）身高或者（b）体重数据作为特征，在正态分布假

设下利用最大似然法或者贝叶斯估计法估计分布密度参数，建立最小错误率Bayes

分类器，写出得到的决策规则，将该分类器应用到测试样本，考察测试错误情况。

在分类器设计时可以考察采用不同先验概率（如0.5对0.5, 0.75对0.25, 0.9对0.1

等）进行实验，考察对决策规则和错误率的影响；

2) 用两个特征进行实验：同时采用身高和体重数据作为特征，分别假设二者相关或不

相关，在正态分布假设下估计概率密度，建立最小错误率Bayes分类器，写出得到

的决策规则，将该分类器应用到训练/测试样本，考察训练/测试错误情况。比较相

关假设和不相关假设下结果的差异。在分类器设计时可以考察采用不同先验概率

（如0.5 vs. 0.5, 0.75 vs. 0.25, 0.9 vs. 0.1等）进行实验，考察对决策和错误率的影响；

院 系： 计算机科学学院

专 业： 智能科学与技术

年 级： 2012 级

课程名称： 模式识别

组 号： 13组

组 员： 徐灿 马卿

指导教师： 孙阳光老师

2014年12月30日

年级 2012级 学号 2012213855 2012213875

专业 智能科学

与技术 姓名 徐灿 马卿

实验时间 2014.10.8 实验地点 9#206

实验

名称 用身高和/或体重数据进行性别分类的实验 实验

类型 设计型 综合型 创新型

√

实

验

目

的

或

要

求 基本要求：

用PR_Exp1_Data_1.TXT 和PR_Exp1_Data_2.TXT 的数据作为训练样本集，建立Bayes 分类器，用PR_Exp1_Data_3.TXT测试样本数据对该分类器进行测试。调整特征、分类器等方面的一些因素，考察它们对分类器性能的影响，从而加深对所学内容的理解和感性认识。

具体做法：

1． 应用单个特征进行实验：以（a）身高或者（b）体重数据作为特征，在正态

分布假设下利用最大似然法或者贝叶斯估计法估计分布密度参数（只利用训

练数据估计密度），建立最小错误率Bayes 分类器，写出得到的决策规则，将

该分类器应用到测试样本，考察测试错误情况。在分类器设计时可以考察采

用不同先验概率（如0.5 对0.5, 0.75 对0.25, 0.9 对0.1 等）进行实验，考察对

决策规则和错误率的影响。

2． 应用两个特征进行实验：同时采用身高和体重数据作为特征，分别假设二者

相关或不相关，在正态分布假设下估计概率密度，建立最小错误率Bayes 分

类器，写出得到的决策规则，将该分类器应用到训练/测试样本，考察训练/

测试错误情况。比较相关假设和不相关假设下结果的差异。在分类器设计时

模式识别实验报告

实验一、最近邻规则的聚类算法

一、实验要求

编写采用最近邻规则的聚类算法，距离采用欧式距离，阈值可设

定。采用二维特征空间中的10个样本对程序进行验证。x1=(0,0)，x2=(3,8)，x3=(2,2)，x4=(1,1)，x5=(5,3)，

x6=(4,8)，x7=(6,3)，x8=(5,4)，x9=(6,4)，x10=(7,5)。

二、实验步骤○1、选取距离阈值T，并且任取一个样本作为第一个聚合中心Z1，如：Z1=x1；○2、计算样本x2到Z1的距离D21；

若D21≤T，则x2∈Z1，否则令x2为第二个聚合中心，Z2=x2。

设Z2=x2，计算x3到Z1和Z2的距离D31和D32。若D31>T和D32>T，

则建立第三个聚合中心Z3；否则把x3归于最近邻的聚合中心。依此

类推，直到把所有的n个样本都进行分类。○3、按照某种聚类准则考察聚类结果，若不满意，则重新选取

距离阈值T、第一个聚合中心Z1，返回第二步②处，直到满意，算法

结束。

三、程序设计

详见附件1：test1.m。

四、仿真结果

01234567012345678最近邻聚类算法：阈值T=0.1，第一个聚类中心（0,0）

data1data2data3data4data5data6data7data8data9data10

01234567012345678最近邻聚类算法：阈值T=0.1，第一个聚类中心（5,4）

data1data2data3data4data5data6data7data8data9data10

01234567012345678最近邻聚类算法：阈值T=1，第一个聚类中心（0,0）

data1data2data3data4data5data6data7data8data9data10

01234567012345678最近邻聚类算法：阈值T=1，第一个聚类中心（5,4）

data1data2data3data4data5data6data7data8data9data10

《模式识别》实验报告

一、数据生成与绘图实验

1.高斯发生器。用均值为m，协方差矩阵为S 的高斯分布生成N个l 维向量。

设置均值Tm=-1,0，协方差为[1,1/2;1/2,1]；

代码：

m=[-1;0];

S=[1,1/2;1/2,1];

mvnrnd(m,S,8)

结果显示：

ans =

-0.4623 3.3678

0.8339 3.3153

-3.2588 -2.2985

-0.1378 3.0594

-0.6812 0.7876

-2.3077 -0.7085

-1.4336 0.4022

-0.6574 -0.0062

2.高斯函数计算。编写一个计算已知向量x的高斯分布(m, s)值的Matlab函数。

均值与协方差与第一题相同，因此代码如下：

x=[1;1];

z=1/((2*pi)^0.5*det(S)^0.5)*exp(-0.5*(x-m)'*inv(S)*(x-m))

显示结果： z =

0.0623

3.由高斯分布类生成数据集。编写一个Matlab 函数，生成N 个l维向量数据集，

它们是基于c个本体的高斯分布(mi , si )，对应先验概率Pi ,i= 1,……,c。

M文件如下：

function [X,Y] = generate_gauss_classes(m,S,P,N)

[r,c]=size(m);

X=[];

Y=[];

for j=1:c

t=mvnrnd(m(:,j),S(:,:,j),fix(P(j)*N));

X=[X t];

Y=[Y ones(1,fix(P(j)*N))*j];

end

end

调用指令如下：

m1=[1;1];

m2=[12;8];

m3=[16;1];

S1=[4,0;0,4];

S2=[4,0;0,4];

S3=[4,0;0,4];

m=[m1,m2,m3];

S(:,:,1)=S1;