1.什么是模式及模式识别？模式识别的应用领域主要有哪些？
模式：存在于时间，空间中可观察的事物，具有时间或空间分布的信息； 模式识别：用计算机实现人对各种事物或现象的分析,描述,判断,识别。 模式识别的应用领域：（1）字符识别；（2） 医疗诊断；（3）遥感； (4）指纹识别 脸形识别；（5）检测污染分析，大气，水源，环境监测； （6）自动检测；（7 ）语声识别，机器翻译，电话号码自动查询，侦听，机器故障判断； （8）军事应用。
2.模式识别系统的基本组成是什么？
（1） 信息的获取：是通过传感器，将光或声音等信息转化为电信息；
（2） 预处理：包括A\D,二值化，图象的平滑，变换，增强，恢复，滤波等, 主要指图
象处理；
（3） 特征抽取和选择：在测量空间的原始数据通过变换获得在特征空间最能反映分类
本质的特征；
（4） 分类器设计：分类器设计的主要功能是通过训练确定判决规则，使按此类判决规
则分类时，错误率最低。把这些判决规则建成标准库； （5） 分类决策：在特征空间中对被识别对象进行分类。
3.模式识别的基本问题有哪些？ （1）模式(样本)表示方法：（a ）向量表示；（b ）矩阵表示；（c ）几何表示；（4）基元(链码)表示；
（2）模式类的紧致性：模式识别的要求:满足紧致集，才能很好地分类；如果不满足紧致集，就要采取变换的方法,满足紧致集
（3）相似与分类；(a)两个样本x i ，x j 之间的相似度量满足以下要求： ① 应为非负值
② 样本本身相似性度量应最大 ③ 度量应满足对称性
④ 在满足紧致性的条件下，相似性应该是点间距离的 单调函数
(b)
用各种距离表示相似性
（4）特征的生成:特征包括：(a)低层特征;(b)中层特征;(c)高层特征 （5） 数据的标准化:(a)极差标准化；(b)方差标准化
4．线性判别方法
（1）两类：二维及多维判别函数，判别边界，判别规则 二维情况：（a ）判别函数： ( ) （b ）判别边界：g(x)=0; （c
n 维情况：（a ）判别函数：
也可表示为： 32211)(w x w x w x g ++=为坐标向量为参数，21,x x w 12211......)(+++++=n n n w x w x w x w x g X W x g T =)(为增值模式向量。
，＝为增值权向量，T
n n T n n x x x x X w w w w W )1,...,,(),,...,,(21121+=+
（b ）判别边界：g 1(x ) =W T X =0 （c ）判别规则：
（2）多类：3种判别方法（函数、边界、规则）
(A)第一种情况：(a)判别函数：M 类可有M 个判别函数
(b) 判别边界：ωi
（i=1,2,…,n ）类与其它类之间的边界由 g i
(x )=0确定 (c)
(B)第二种情况：(a)判别函数：有 M (M _ 1)/2个判别平面
(b) 判别边界： (c)
判别规则：
(C)第三种情况：(a)判别函数： (b) 判别边界：
g i (x ) =g j (x ) 或g i (x ) -g j (x ) =0
(c)
判别规则：
5．什么是模式空间及加权空间，解向量及解区？ （1）模式空间：由 构成的n 维欧氏空间；
（2）加权空间：以 为变量构成的欧氏空间；
（3）解向量：分界面为H ，W 与H 正交，W 称为解向量； （4）解区：解向量的变动范围称为解区。
6．超平面的四个基本性质是什么？ 性质①：W 与H 正交； 性质 ②：
W
)x (g r
=
其中，
为x 矢量到H 的正交投影； X
W x g T
ij ij =)(0)(=x g ij
j
i x g ij ≠?
??∈→<∈→>j i
x 0x 0)(ωω当当权向量。
个判别函数的
为第i w T in in i i i ),,121+X
W x g K k =)(??
?
∈=小，其它
最大，当i
T k i x X W x g ω
)(T n x x x x X ),...,,(321=121,...,,+n w w w r
性质③：
性质④：
7．二分法能力如何表示？
N 个样品线性可分数目(条件：样本分布良好）：
线性可分概率:
8．广义线性判别方法 （1）非线性→线性
一个非线性判别函数通过映射，变换成线性判别函数：
成正比
的距离与原点到11,++=n n W H W W q 通过原点。，说明超平面则若在原点负侧。则在原点正侧，若则若H x W x g W H W H W T n n n ==<>+++)(,0,0,0111???
??+>+<=∑
=-n k k
N N n N C n N n N D 011,21
,2),(若若为特征数为样本数其中n N k N k N C k
N ,,])!1(![)!1(1---=
-强。说明样本少时二分能力范围，即在。时，线性可分概率为
时，即值，对于任意。处出现明显的门限效应时，曲线急剧下降，在由当,1),(),1(22:)(2
1
),()1(22:)(21:)(≈+<<=+===∞→n N P n N c n N P n N n b n a λλλ.2),1(2:)(,),1(22:)(0是最好情况
即二分能力）的估计：个样本的线性可分性（对多线性可分能力越差。说明样品越线性可分概率急剧下降范围，即在=+=+>>λλn N N e n N d )(,)(...)()()(,...)()()(21211
1
增广模式向量。广义权向量其中：空间变换空间??
??
????????=????????????==??????→?=→→+=∑
x f x f x f Y w w w W Y g Y W x f w x g k k T y x k i i i
（2）线性判别
9．分段线性判别方法
1）基于距离:（1）子类，类判别函数 （2）判别规则
（1）子类：把ωi 类可以分成l i 个子类:
∴ 分成l 个子类。 子类判别函数： 在同类的子类中找最近的均值 （2）判别规则： 这是在M 类中找最近均值。则把x 归于ωj 类完成分类
2）基于函数：（1）子类，类判别函数 （2）判别规则
（1）子类类判别函数：对每个子类定义一个线性判别函数为：
（2）判别规则：在各子类中找最大的判别函数作为此类的代表，则对于M 类，可定义M 个判别函数g i (x ),i =1,2,…..M,因此，决策规则
3）基于凹函数的并：（1）析取范式，合取范式，凹函数
（2） 判别规则
（1） 析取范式：P=(L 11∧L 12∧…∧L 1m )
∨…∨(L q 1∧L q 2∧…∧L q m )
合取范式：Q= (L 11 ∨ L 12 ∨ … ∨ L 1m ) ∧ … ∧(L q 1 ∨ L q 2 ∨ … ∨ L q m )
凹函数：P i =L i 1∧L i 2∧…∧L i m （2） 判别规则：设第一类有q 个峰，
则有q 个凹函数。 即P=P 1∨P 2∨……∨P q
10．非线性判别方法
0=Y W T 判别平面：???∈<∈>=2
1,0,0)(ωωx x Y g Y W T
),...,,(21l
i i i i ωωωω=l
i l
l i x x g μ-==,...,2,1min )(M
i x g x g i j ,...,2,1),(min )(==子类的权向量。为其中l
i l i l i l i w x w x g ω,)(=j
i M i j x x g x g ω∈==则),(max )(,.....,2,1???=∈<=∈>=。每个子类的判别函数数子类。
m j x q i x x w L ij ij ,...,2,1,,0,...,2,1,,021ωω??
?∈≤∈>21
,0,0ωωx P x P 则则判别规则：
（1）1ω集中，2ω分散
（2）1ω,
2ω均集中
11．分类器的设计
（1）梯度下降法（迭代法）：准则函数，学习规则
（a ）准则函数：J(W)≈J(W k )+ ▽J T (W- W k )+(W- W k )T D(W- W k )T /2
其中D 为当W = W k 时 J(W)的二阶偏导数矩阵
（b ）学习规则：从起始值W 1开始，算出W 1处目标函数的梯度矢量▽J(W 1)，则下一步的w 值为：W 2 = W 1-ρ1▽J(W 1) 其中W 1为起始权向量， ρ1为迭代步长，J(W 1) 为目标函数，▽J(W 1)为W 1处的目标函数的梯度矢量 在第K 步的时候
W k+1 = W k -ρk ▽J(W k ) 最佳步长为ρk =||▽J||2/▽J T D ▽J 这就是梯度下降法的迭代公式。
（2）感知器法：准则、学习规则（批量，样本） （a ）准则函数： 其中x 0为错分样本
（b ）学习规则：
1.错误分类修正w k
如w k T x≤0并且x ?ω1 w k+1= w k +ρk x
如w k T
x≥0并且x ?ω2 w k+1= w k -ρk x
协方差
为均值，为其中：大小。
的大小，决定超平面的判别函数定义111111
1121,)()()(:
ωωμμμω∑∑---=-k x x k x g T 控制大小
是个超球面由判别平面：判别规则：k 0)(,0)(,0)(12
1=??
?∈<∈>x g x x g x x g ωω协方差，为均值，，为其中：，两个判别函数：都比较集中，那么定义，如果212112212,1)()()(ωωωωμμμωω∑
∑
=---=-i i i i T i i i i x x k x g 。可用来调整二类错误率判别规则：判别平面方程：212
1
2
221212211111
221111211221,,0,0)(0)()()(2)()()()(k k x x x g k k x x x x g x g x g T T T T ???∈<∈>=-+---+--=-=∑
∑
∑
∑∑∑
------ωωμμμμμμ(
)
∑∈-=0)(X X X W W J T
2.正确分类 ，w k 不修正 如w k T x ＞0并且x ?ω1 如w k T x ＜0并且x ?ω2 w k+1= w k
（3）最小平方误差准则法（MSE 法）（非迭代法）：准则、权向量解
(a)准则函数： (b)权向量解：
（4）韦—霍氏法（LMS 法）（迭代法）：准则，学习规则 (a)准则函数： (b)学习规则： W 1任意 ，W k+1=W k +ρk (b k -W k T X k ) X k
ρk 随迭代次数k 而减少，以保证算法收敛于满意的W 值
（5）何—卡氏法（H-K 法）（迭代法）：准则，b ，W 的学习规则
(a)准则： 它的解为：
（b ）b ，W 的学习规则：
其中 c 为矫正系数，e k 为误差矢量，e k =XW k -b k 初始条件 W 1=X +b 1并且b 1>0 迭代时检测
如果e k ≥0时，XW >b ，系统线性可分，迭代收敛 如果e k <0时，XW
（6）Fisher 分类法：准则函数的建立，W 权值计算，0W 的选择
(a)准则函数的建立：投影样本之间的类间分离性越大越好，投影样本的总离散度越小越好。 即可表示为：
其中S w 为类内散布矩阵, S b 为类间散布矩阵
(
)
∑-
==-==N i b i
X i W T b XW e W J 1
2
22||||||||)(()
b X b X X
X T W T +-==1
()
的伪逆（规范矩阵）称为其中X X X X T X T =-+1
(
)
∑-
==-==N i b i
X i W T b XW e W J 12
22||||||||)(k
1
K ρρ=取(
)
∑-
==-==N i b i
X i W T b XW e W J 12
22||||||||)(()
b X b X X
X T W T +-==1
k k k b b b b δ+=+1前后两次迭代后，对的增量为其中b b k δ]|[][|11k K k k K k K K k e e X c W b X b X b b X b X W ++=+=+==+++++++δδ|]
|[k k k e e C b +=δ()2212212
||)(σσ+-=Y Y W J Fisher 准则函数有所以
W
S W W
S W )(w T
b T
=W J
(b)W 权值计算：
(c)W 0的选择 ：
Y ki 表示第i 类中第k 个样本的投影值
N 1为ω1样本数 N 2为ω2样本数 （7）电位函数分类器：电位函数，累积电位的计算
(a)电位函数：电位分布函数有如下三种形式：
α为系数 x k 为某一特定点
(b)累计电位的计算： K k+1(x)= K k (x)+r k+1K(x,x k )
其中： x k+1?ω1并且K k (x k+1)>0时 r k+1= 0 x k+1?ω1并且K k (x k+1) ≤ 0时 r k+1= 1 x k+1?ω2并且K k (x k+1)<0时 r k+1= 0 x k+1?ω2并且K k (x k+1) ≥ 0时 r k+1= -1
12．1）二类问题的贝叶斯判别
（1）判别函数的四种形式 （2）决策规则 （3）决策面方程
（4）决策系统的结构
（1）判别函数的四种形式：
（2）判别规则： ()
X X S W W J w 211
)(-=-求极值得对2.12
10Y Y W +=2
121212102
122.2N N X W N X W N N N Y N Y N W T
T ++=
++=()
()()∑
∑∑
===-+---+=N Y Y N Y Y N Y Y Y Y Y W k k k k k k 2
211111211
22112112
0)
(.3}||||exp{- )K( 1.2k k x x XX -=α||||11
)K( 2.2
k k x x XX -+=α|||||||||sin |)K( 3.22
k k k x x x x XX --=αα)
(,)
()
(ln )()(ln
)()()
(,)
()
()
()()()()(),()()()()()()(),()()()(12211221221121取对数方法似然比形式类条件概率密度后验概率ωωωωωωωωωωωωP P x P x P x g D P P x P x P x g C P x P P x P x g B x P x P x g A -=-
=
-=-=12
w S S S =+()
(
)
11
1
1T
S X X X X X N =
-∈-∑()
(
)
22
2
2
T
S X X X X X N =
-∈-∑()()
1212T
b X X X X S =--
（3）决策面方程：g （x ）=0
（4）决策系统的结构
（A ）向量特征（B ）判别计算（C ）阈值单元（D ）决策
2）多类问题的贝叶斯判别 （1）判别函数的四种形式 （2）决策规则 （3）决策面方程 （4）决策系统的结构
（1）判别函数的四种形式：M 类有M 个判别函数g 1(x ), g 2(x ),…, g m (x ).
（2）决策规则：
另一种形式：
（3）决策面方程：
21
122121
122121
221121
21)
()
(ln )()(ln
)()()()
()()
()()()()()()()()()(ωωωωωωωωωωωωωωωωωωωωω∈?<>=∈?<>∈?<
>
∈?<
>
x P P x P x P x g D x P P x P x P C x P x P P x P B x x P x P
A )
(,)
()
(ln )()(ln )()()(,)
()
()()()()()(),()()()()()()(),()()()(12211221221121取对数方法似然比形式类条件概率密度后验概率ωωωωωωωωωωωωωωP P x P x P x g D P P x P x P x g C P x P P x P x g B x P x P x g A -=-=-=-=),...,2,1(,)()(max )()()(1M i x P x P P x P x g i j j M j i i i =∈?==≤≤ωωωω{}
i
i j M
j i i i x P x P P x P x g ωωωω∈?+=+=≤≤)(ln )(ln max )(ln )(ln )(10)()(),()(=-=x g x g x g x g j i j i 即
（4）决策系统的结构：
(a)特征向量；(b)判别计算；(c)最大选择器；(d)决策
13．三种最小错误率贝叶斯分类器（正态分布）：判别函数，判别规则，决策面方程 （1）第一种情况：各个特征统计独立，且同方差情况。(最简单情况) (a)判别函数：
(b)判别规则：
(c)决策面方程：
（2）第二种情况：Σi ＝ Σ相等，即各类协方差相等。 (a)判别函数：
(b)判别规则：
(c)决策面方程：
（3）第三种情况(一般情况)：Σ?为任意，各类协方差矩阵不等，二次项x T Σ? x 与i 有关。所以判别函数为二次型函数。
(a)判别函数： )
(ln 21,21)(,)(2
02
i i T i i i i i T i
i
P w w w x w x
g ωμμδμδ+-
==
+=其中：线性判别函数{}
i
j T j M
w i T i i x w x w w x w x g ω∈?+=+=≤≤010max )(())()(ln
)(21
0)(0
)()(200j i j
i j i j i j i j i P P x W x x W x g x g ωωμμμμδμμμμ---+=-==-=-其中)(ln 21,)(101
0i i T i i i
i i T i i P w W w x W x g ωμμμ+-==+=∑
∑
--其中（线性函数）{}
i
j T j M j i T i i x w x W w x W x g ω∈?+=+=≤≤010max )(0
)()(=-∴x g x g j
i j i 相邻与若ωω)
()()
()()
(ln )(21)(,0)(1010j i T j i j i j i j i j i T P P x W x x W μμμμμμωωμμμμ----
-=-==-∴∑∑--。
其中)
(ln ln 2
1
21)()(,2
1,)(10110i i i i T i i i i i i i i T
i i T i P w n W n n W w x W x W x x g ωμμμ+--==?-=++=∑∑∑∑
---，维列向量矩阵其中
(b)判别规则：
(c)决策面方程：
14．最小风险贝叶斯分类器：判别函数，判别规则 （1）判别函数： 条件风险：
αi ：表示把模式x 判决为ωi 类的一次动作 期望风险：
（2）判别规则： ：
15．聂曼—皮尔逊判决：（二类）：准则，判别规则，阈值的确定 （1）准则： （2）判别规则：
（3）阈值的确定：
16．最小最大损失准则判决（二类）：准则，判别规则，*1()P ω的确定
（1）准则：讨论在P(ωi )变化时如何使最大可能风险最小； （2）判别规则：风险
通过最小风险与先验概率的关系曲线 ，确定最大风险，使最大风险最小。
（3）*
1()P ω的确定：
{}
i
j T j j T M
j i T
i i T i x w x W x W x w x W x W x x g ω∈?++=++=≤≤010max )(0)()(=-x g x g j i ()()[]()()
).(,...,2,1,1
M a a i x P E x R j M j j i j i i <===∑=ωωαλωαλα()()k i M
i k x x R x R ωαα∈==则若
,min ,...,2,1()()())(,平均风险dx x P x x R R ?
=α最小，使为常数时在取1022,,εεεε=.)()(2121T x T x P x P 值皮尔逊规则归结为找阈∴∈?<
>
ωωωω最小一定这时可确定，为常数时，的函数在取为的分界线作时当1222222121,)(.,)()
(εεεεωεωωT T dx x P T T x P x P T
∴=ΩΩ=?
∞
-()()()()()()()()?
??
ΩΩΩ---+-=-+=+=1
22
2221211121221122212221dx x P dx x P b dx
x P a bP a R ωλλλλλλωλλλω其中：
17．什么是序贯分类？
序贯：随着时间的推移可以得到越来越多的信息。 序贯分类决策规则
18．什么是参数估计，非参数估计，监督学习，无监督学习？
参数估计：先假定研究的问题具有某种数学模型，如正态分布，二项分布，再用已知类别的
学习样本估计里面的参数；
非参数估计：不假定数学模型，直接用已知类别的学习样本的先验知识直接估计数学模型； 监督学习：在已知类别样本指导下的学习和训练，参数估计和非参数估计都属于监督学习。 无监督学习：不知道样本类别，只知道样本的某些信息去估计，如：聚类分析。
19．（1）最大似然估计算法思想：准则，求解过程 （1）准则：第i 类样本的类条件概率密度： P(X i /ωi )= P(X i /ωi ﹒θi ) = P(X i /θi )
原属于i 类的学习样本为X i =(X 1 , X 2 ,…X N ,)T i=1,2,…M
求θi 的最大似然估计就是把P(X i /θi )看成θi 的函数，求出使它最大时的θi 值
（2）求解过程：
∵学习样本独立从总体样本集中抽取的
N 个学习样本出现概率的乘积 取对数：
对θi 求导,并令它为0：
()()()()()()()()?
?
?ΩΩΩ-+===---+-=ΩΩ2
1
22221222222121112122111210
.,0,dx x P a R dx x P dx x P P R b ωλλλωλλωλλλλω，这时候最大风险为最小即无关与使如果选择???????
?
?<<∈-=≤∈-=≥时，继续观察时时A X P X P B X e P e P B X P X P X e P e P A X P X P i i i i i i )()
()(1)()()()()(1)()(212212112121ωωωωω∏===N k i X k P i X P i i X P i i 1)
|()|().|(θθθω∑∏===N
k i k i
k N k X P X P 11
)
|(log )|(log θθ0)|(log ...11=??????
????????????∑=N k i
k p X P θθθ
（2）正态分布情况下：μ, ∑的计算
① ∑已知, μ未知,估计μ
② ∑， μ均未知
A 一维情况：n=1对于每个学习样本只有一个特征的简单情况：
即学习样本的算术平均
样本方差
B 多维情况：n 个特征 估计值：
20．（1）贝叶斯估计算法思想：准则，求解过程
(A)准则：通过对第i 类学习样本X i 的观察，使概率密度分布P(X i /θ)转化为 后验概率P(θ/X i ) ，再求贝叶斯估计；
(B)求解过程： ① 确定θ的先验分布P(θ),待估参数为随机变量。
② 用第i 类样本x i =(x 1, x 2,…. x N )T 求出样本的联合概率密度分布P(x i |θ)，它是
θ的函数。
③ 利用贝叶斯公式,求θ的后验概率 ④
（2）正态分布情况下：μ的计算
对μ的估计为
若令P(μ)=N(μ0, σ02 )=N(0,1)
????????
?=??=?
?∑
∑
==0)|(log ..................0)|(log 111
θθθθi
k N k p
i k N k X P X P ∧∧θθθθ＝，即为的估值利用上式求出i
i ∑
=∧==N
k k X N 1
1μμ∑
=∧∧==N k k
X N 1
111
μθ()
∑
=∧∧∧-=
=N k X k N 122121μσθ∑=∧∧==N
k k X N 1
11μθ()()
∧=∧∧∧--=∑=∑μμθX T X N k N
k k
121?=θ
θθθθθθd P X P P X P X P i
i
i )()|()
().|()|(?
=∧
θ
θθθθd X P i )|(求贝叶斯估计0
2
022
1
20202
μσσσσσσμμ++
+=
=∑=∧
N X
N N
k k
N N
21．（1）贝叶斯学习概念
求出μ的后验概率之后，直接去推导总体分布即
当N↑,μN 就反映了观察到N 个样本后对μ的最好推测，而σN 2反映了这种推测的不确定性, N↑, σN 2↓,σN 2 随观察样本增加而单调减小，且当N →∞, σN 2 →0
当N↑，P(μ|x i )越来越尖峰突起；N→∞, P(μ|x i )→σ函数，这个过程成为贝叶斯学习。
（2）正态分布情况下()i
P x X 的计算
(A)一维正态：已知σ2，μ未知
(B)多维正态（ 已知Σ，估计μ ）：
22．非参数估计的条件密度计算公式
（1）Parzen 窗口估计的三种形式，条件密度的计算
（A ）窗口的选择：（A ）方窗函数；（B ）正态窗函数；（C ）指数窗函数
∑
=∧+=
N
k k X N N 111μμμμθθθd X P X P d X P X P X X P i
i i )|()|()|()|()|(?
?==μμμθθθd x P x P d x P x P x x P i i i )|()|()|()|()|(?=?=?
?
()
()
?----=μ
σμμσπσμσπd x N N N ]21exp[21]21exp[212
2(
)(
)
?++-?+-+--=μσ
σμσσμσσσσσσμσσπd x x N N N N N N N N
]21exp[21exp[212
2222222
2222]21exp[21
22
2
2
2??? ??+--
+=
σσμσ
σπN N N
x 为正态函数
),(2
2σσμ+=N N N μμ0
1
0101)1(1)1(01∑∑∑∑∑??? ??∑∑+-=-++=N N x N N k k N N 分类器就可以设计代入将Bayes d x P x P x x P i
i N ?
=μμμμ)|()|()|(?????≤=其他.021||,1)(u u ?}21exp{21)(2
u u -=π?|}|exp{)(u u -=?
（B ）条件密度的计算：
（2）K-近邻估计的基本思想及用K-近邻法作后验概率估计的方法
（A ）基本思想：以x 为中心建立空胞，使v↑，直到捕捉到K N 个样本为止。 （B ）用K-近邻法作后验概率估计的方法：由K N 近邻估计知N 个已知类别样 本落入V N 内为K N 个样本的概率密度估计为
N 个样本落入V N 内有K N 个，K N 个样本内有K i 个样本属于ωi 类，则联合概率密度：
根据Bayes 公式可求出后验概率：
23． 分类与聚类的区别是什么？
分类：用已知类别的样本训练集来设计分类器（监督学习）； 聚类（集群）：用事先不知样本的类别，而利用样本的先验知识来构造分类器（无监督学习）。
24．（1）聚合聚类（系统聚类）的算法
思想：先把每个样本作为一类，然后根据它们间的相似性和相邻性聚合。
若有n 个样本：（A ）设全部样本分为n 类； （B ）作距离矩阵D(0)； （C ）求最小元素；
（D ）将距离平方最小的元素归为一类； （E ）以新类从新分类，作距离矩阵D(1)； （F ）若合并的类数没有达到要求，转（C ），否则停止。
（2）分解聚类的算法
思想：把全部样本作为一类，然后根据相似性、相邻性分解。 目标函数：两类均值方差
N ：总样本数， ：ω1类样本数 ：ω2类样本数，
∑=-==N i N i N
N N N h x x V N V N K x P 1)||(11)(?V N
k x P N
N N =)()()|(),(ωωωi i N i
i N P x P v N k x P ==∑
∑===??=M j i N i N N i i i i i i N x P x P P x P P x P x P 1
1),(),()()|()()|()|(ωωωωωωωk k x P N i
i N =)|(ω后验概率的估计：)
()(212121x x x x T N N N E --=
1N 两类均值:,21x x 2N
（3）动态聚类的算法（K-均值算法）
① 先选定某种距离作为样本间的相似性的度量; ② 确定评价聚类结果的准则函数;
③ 给出某种初始分类，用迭代法找出使准则函数取极值的最好的聚类结果。 25．（1）什么是模糊集，α-水平截集？ （A ）模糊集：假设论域E={x }（讨论的区间），模糊集A 是由隶属函数μA (x )描述。其中，μA (x )是定义在E 上在闭区间{0，1}中取值的一个函数，反映x 对模糊集的隶属程度。 （B ）α-水平截集：设A 为E=（x ）中的模糊集，则A={x | μA (x )≥α}称为模糊集A 的α水平集， α为阈值在（0，1）间取值。
（2）什么是模糊集的并，交，补运算？ 设：A,B 为E=（x ）上的两个模糊集 并集:μA ∪ B (x )＝max(μA (x ) ,μB (x )) 交集: μA ∩ B (x )＝min(μA (x ) ,μB (x )) 补集: =1- μA (x ) , μA (x ) ,μB (x ) 分别为A 、B 的隶属函数
（3）什么是模糊关系及其变换运算？
(A)模糊关系：设U,V 为两个模糊集,则u ,v 的笛卡儿乘积集记为：U×V={(u,v )|u ?U,v ?V}, (u,v )是 U,V 元素间的一种无约束搭配，若把这种搭配加某种限制， U,V 间的这种特殊关系叫模糊关系R 。 (B)变换运算：
（4）什么是相似关系，等价关系？
（A ）相似关系：具有自反性对称性的模糊关系称为相似关系（或类似关系）； （B ）等价关系：具有自反性、对称性、传递性的模糊关系称为等价关系。
26．模糊识别方法
)(x A μ()
()维模糊矩阵是＝维模糊矩阵；是＝r m s S m n r R ik
ij ??~
~[]
”表示求最小”表示求最大值，“；式中“令∧∨==∧∨==),...,2,1;,...,2,1(,1
r k n i s r t jk ij m
i ik 。
的最大－最小合成关系与上式表示S R ()~~~~~~S R T S R t T ik =的复合矩阵，记作对为＝
（1）隶属原则识别法的基本思想
设： A 1, A 2,…. ,A n 是E 中的n 个模糊子集， x 0为E 中的一个元素，若有隶属函数 μi (x o ) =max(μ1(x o ), μ2(x o ),….. μn (x o )),则x o ? μi 。 则x o ?A i
若有了隶属函数μ (x )，我们把隶属函数作为判别函数使用即可。
（2）择近原则识别法的基本思想 （a ）贴近度的计算：
（b ）设：E 上有n 个模糊子集 及另一模糊子集 。若贴近度
27．模糊聚类分析方法 1）基于等价关系 （1）α-水平截阵 （2）等价划分
（1）α水平截阵： R α =[x | μA (x )≥α] （2）等价划分：若 是E 上的一个等价关系。则对任意阈值α(0≤ α ≤1)则模糊水平集R α
也是E 上的一个等价关系；由小到大选取阈值α(0≤ α ≤1)，将矩阵中相同的行的特征归为一类，得到分类；逐渐增大阈值，则分类增多，知道满足分类数目为止。
2）基于相似关系
（1）求传递闭包→等价 （2）利用等价关系聚类
（1）把相似关系（相似矩阵） 变成等价关系方法为： 取 的乘幂为
（2）选择适当α值，取等价关系R 的α水平集，根据水平集确定样本的类别 另：
1．所有作业涉及的计算问题！
2．分段线性判别方法中的基于凸函数的交方法？
3．结构模式识别中的形式语言、文法推断、句法分析、自动机理论等问题！
)]1[21)(~~~~~~B A B A B A ⊙（-+=? ”表示求最小。
”表示求最大，“符号“的内积和外积。与分别称为⊙式中∧∨∨∧=∧∨=∈∈~~~
~~~~~~~))
()(()),()((,B A x B x A B A x B x A B A E x E x ~~2~1,......,,n A A A ~
B 方法。，这就是择近原则识别类则最贴近与则称＝..)
(max )(~~~
~1~~i
i j n j i A B A B A B A B ∈??≤≤~
R ~
R ~R ......,,8
~
4~2~R R R 4
~4~8~2~2~4~~
~2
~~~2k ~k ~,.
R R R R R R R R R R R R R ＝＝＝就是模糊等价关系。且则＝＝若在某一步有
模 式 识 别 非 学 位 课 考 试 试 题 考试科目： 模式识别 考试时间 考生姓名： 考生学号 任课教师 考试成绩 一、简答题（每题6分，12题共72分）： 1、 监督学习和非监督学习有什么区别？ 参考答案：当训练样本的类别信息已知时进行的分类器训练称为监督学习，或者由教师示范的学习；否则称为非监督学习或者无教师监督的学习。 2、 你如何理解特征空间？表示样本有哪些常见方法？ 参考答案：由利用某些特征描述的所有样本组成的集合称为特征空间或者样本空间，特征空间的维数是描述样本的特征数量。描述样本的常见方法：矢量、矩阵、列表等。 3、 什么是分类器？有哪些常见的分类器？ 参考答案：将特征空中的样本以某种方式区分开来的算法、结构等。例如：贝叶斯分类器、神经网络等。 4、 进行模式识别在选择特征时应该注意哪些问题？ 参考答案：特征要能反映样本的本质；特征不能太少，也不能太多；要注意量纲。 5、 聚类分析中，有哪些常见的表示样本相似性的方法？ 参考答案：距离测度、相似测度和匹配测度。距离测度例如欧氏距离、绝对值距离、明氏距离、马氏距离等。相似测度有角度相似系数、相关系数、指数相似系数等。 6、 你怎么理解聚类准则？ 参考答案：包括类内聚类准则、类间距离准则、类内类间距离准则、模式与类核的距离的准则函数等。准则函数就是衡量聚类效果的一种准则，当这种准则满足一定要求时，就可以说聚类达到了预期目的。不同的准则函数会有不同的聚类结果。 7、 一种类的定义是：集合S 中的元素x i 和x j 间的距离d ij 满足下面公式： ∑∑∈∈≤-S x S x ij i j h d k k )1(1 ，d ij ≤ r ，其中k 是S 中元素的个数，称S 对于阈值h ，r 组成一类。请说明， 该定义适合于解决哪一种样本分布的聚类？ 参考答案：即类内所有个体之间的平均距离小于h ，单个距离最大不超过r ，显然该定义适合团簇集中分布的样本类别。 8、 贝叶斯决策理论中，参数估计和非参数估计有什么区别？ 参考答案：参数估计就是已知样本分布的概型，通过训练样本确定概型中的一些参数；非参数估计就是未知样本分布概型，利用Parzen 窗等方法确定样本的概率密度分布规律。 9、 基于风险的统计贝叶斯决策理论中，计算代价[λij ]矩阵的理论依据是什么？假设这个矩阵是 M ?N ，M 和N 取决于哪些因素？
1、哲学和具体科学的关系？ 答：（1）马克思主义哲学与具体科学是一般与个别的关系，二者之间存在着既相互区别又相互联系的辩证统一关系。（2）它们之间的区别表现在：具体科学以世界某一特殊领域的具体规律为自己的研究对象，因而其理论具有个别性和特殊性；马克思主义哲学以包括自然、社会和人类思维在内的整个世界的最一般规律作为自己的研究对象，因而其理论具有一般性和普遍性。（3）它们之间的联系表现在：一方面，马克思主义哲学以具体科学为基础，没有具体科学的发展，马克思主义哲学既不可能产生，也不可能发展；另一方面，具体科学以马克思主义哲学为指导，马克思主义哲学为具体科学的研究提供正确的世界观和方法论。 2、哲学基本问题及内容？ 答：在哲学研究的众多问题中，有一个重大的基本问题，那就是精神和物质的关系问题。哲学基本问题包括两方面的内容：一是，精神和物质何者为第一性，即谁先谁后，谁决定谁，谁是世界的本质、本原。二是，精神和物质之间有无同一性，人们能否认识世界和改造世界。在这个问题上，哲学史上历来存在着两种根本对立的观点：一种是辩证法的观点，他把世界看作是普遍联系的整体和永恒发展的过程，一切事物都是由内部矛盾推动而不断地运动、变化和发展着；另一种是形而上学的观点，它用孤立的、静止的、片面的观点看世界，把世界的各种现象看作是各自孤立、静止不变的东西，认为世界是没有矛盾的，是不会发展的，有变化也只是事物数量的增减或场所的变更，认为这种变化纯粹是外力推动的结果。 3、“与时俱进”的科学含义是什么？ 答：与时俱进是解放思想和实事求是的根本要求。与时俱进，就是人们的思想和行为要随着时间的改变而改变，随着事物的发展而发展，要体现时代性、把握规律性、富于创造性。首先，与时俱进必须体现时代性。与时俱进要求我们始终站在时代的前列，使得我们的思想理论和实践充分反映时代进步和发展的要求，体现时代特点和时代精神，要努力适应时代的需要，及时解决时代发展中的新课题。其次，与时俱进必须把握规律性。把握规律性是进行理论创新的前提。所谓创新决不是主观任意的创造，而是符合严格的科学性要求的创造性活动。就社会领域内的创新活动来说，必须把握社会发展的客观规律。今天，摆在我们面前的现实任务，就是要不断认识人类社会发展的基本规律，探索在新历史条件下资本主义的发展规律、社会主义的发展规律和执政的无产阶级政党的建设规律。再次，与时俱进必须富于创造性。弘扬与时俱进精神，实现理论和实践的创新，关键在于创造出新的东西。 4. 怎么理解实践是检验真理的标准？ 答：原理：实践是检验真理的唯一标准是指：只有实践才能作为检验认识正确与否，即是否为真理的标准，除此之外再无其他标准。唯一性：实践之所以能够成为检验真理的唯一标准，是由真理的本性和实践的特点所决定的。从真理的本性来看，真理是主观认识与客观实际相符合。所谓检验真理，实质上就是判定主观认识与客观实际是否符合以及符合的程度如何。从实践的特点来看，实践是连接主观与客观的桥梁。简单地说，认识指导实践，如果实践成功，得到了预想的结果，说明指导实践的认识是正确的，是真理，否则就是谬误。辨证统一性：实践标准是绝对性与相对性的统一，确定性与不确定性的统一。实践标准的绝对性或确定性是指实践标准的唯一性和可靠性，即实践是检验真理的唯一标准，并且实践最终一定能鉴别认识是否具有真理性。实践标准的相对性或不确定性实质实践标准的过程性、局限性，即实践是具体的和历史的。 5 . 社会发展的根本动力是什么？ 答：正是生产力与生产关系的矛盾与经济基础和上层建筑的矛盾之间的交互作用，引起社会形态的依次更替，推动社会不断地由低级向高级发展。社会基本矛盾是社会发展的根本动力。 6 . 什么叫实是求是？
一、试问“模式”与“模式类”的含义。如果一位姓王的先生是位老年人，试问“王先生”和“老头”谁是模式，谁是模式类？ 二、试说明Mahalanobis距离平方的定义，到某点的Mahalanobis距离平方为常数的轨迹的几何意义，它与欧氏距离的区别与联系。 三、试说明用监督学习与非监督学习两种方法对道路图像中道路区域的划分的基本做法，以说明这两种学习方法的定义与它们间的区别。 四、试述动态聚类与分级聚类这两种方法的原理与不同。 五、如果观察一个时序信号时在离散时刻序列得到的观察量序列表示为，而该时序信号的内在状态序列表示成。如果计算在给定O条件下出现S的概 率，试问此概率是何种概率。如果从观察序列来估计状态序列的最大似然估计，这与Bayes 决策中基于最小错误率的决策有什么关系。 六、已知一组数据的协方差矩阵为，试问 1．协方差矩阵中各元素的含义。 2．求该数组的两个主分量。 3．主分量分析或称K-L变换，它的最佳准则是什么？ 4．为什么说经主分量分析后，消除了各分量之间的相关性。 七、试说明以下问题求解是基于监督学习或是非监督学习： 1. 求数据集的主分量非 2. 汉字识别有 3. 自组织特征映射非 4. CT图像的分割非 八、试列举线性分类器中最著名的三种最佳准则以及它们各自的原理。 九、在一两维特征空间，两类决策域由两条直线H1和H2分界， 其中 而包含H1与H2的锐角部分为第一类，其余为第二类。 试求： 1．用一双层感知器构造该分类器 2．用凹函数的并构造该分类器 十、设有两类正态分布的样本基于最小错误率的贝叶斯决策分界面，分别为X2=0，以及X1=3，其中两类的协方差矩阵，先验概率相等，并且有， 。 试求：以及。
法理 ●法的概念：特定物质生活条件决定的统治阶级意志的体现，由国家制定认可，由国家强制力保证实施的行为规范的综合 ●法的特征:1、调整人的行为或社会关系2、国家制定或认可、并具有普遍约束力3、以国家强制力保护实施4、规定权利和义务 ●法的本质：统治阶级意志的表现 ●法的规范作用：指引、评价、预测、教育和强制 法的作用 ●法的社会作用：维护统治阶级的阶级统治；执行社会公共事务。 ●法与经济基础的关系：经济基础决定法，法又反作用于经济基础。 ●法与生产力的关系：生产力发展的水平直接影响法的发展水平。法律离开社会生产力的发展，既无存在的可能，也无存在的必要。 ●法对市场经济宏观调控的作用：引导；促进；保障；制约。 ●法对微观经济的作用：确认经济活动主体的法律地位，调节经济活动中的各种关系，解决经济活动中哦的各种纠纷，维持正常的经济秩序 ●法与政治的关系：法受政治制约（政治关系发展、整体改革、政治活动的内容），法服务于政治（调节阶级间、阶级内关系，维护社会关系、社会秩序；打击制裁违法犯罪，调整公共事务关系，维护公共秩序） ●法与党的政策的关系： 相同点（内容实质方面联系）：阶级本质、指导思想、基本原则、经济基础、社会目标等 区别：意志属性、规范形式、调整范围（不尽同）、实施方式、稳定性程序化程度 ●法与党的政策相互作用： 一、法的制定：1、政策是立法的依据和指导思想 2、发将政策转为形式合理效力普遍的行为规范 二．发的实施：1、政策变法，使正统，又反之约束政治活动 2、法的实施借助政策作用 ●社会主义民主与法制是相互依存、相互作用、紧密联系、不可分割的。 ●民主是法制的前提和基础，因为：民主是法制产生的依据、力量源泉，决定了法制的性质和内容 ●法的渊源的专有含义：法律规范的形式上的来源和其外在表现形式 ●法律效力等级为：宪法－法律－行政法规－地方性法规－规章（部门和地方政府）。 ●宪法：根本大法，最高法律效力 ●法律：由全国人大或其常务委员会制定、颁布；全国范围内生效；规范性法律文件 ●行政法规：国务院为领导和管理国家各项行政事务根据为宪法、法律 国务院发布的决定、命令，凡具有规范性的也属于发的渊源 ●地方性法规：地方人大及常委会制定（省、自治区、直辖市、省政府所在市、国批的较大市），适用本地方。 ●规章：1、部门规章：指由国务院各部委+中银+审计署+具有行政管理职能的直属机构；依据为：宪法、法律、国务院的行政法规、决定、命令 2、地方规章：政府制定（省、自治区、直辖市、省自治区政府所在市、经济特区所在市、国的较大市）依据：宪法、法律、行政法规 ●自治条例和单行条例：民族自治地方人大制定，区域内生效 ●特别行政区法：在特别行政区内实行的制度由全国人大以法律规定。 ●国际条约：与民法规定不同的，适用国际条约，但声明保留的条款除外。 ●规定是规范性文件，不属于法律范畴，效力低于法律。 ●广义的法律包括法律、行政法规、地方性法规和规章。 ●法律关系三要素（法律规范在调整人们行为过程中形成的权利义务关系）：主体（法律关系的参加者）、客体（权利义务指向的对象：物、精神产品、人身、行为）、内容（权利义务） ●权利能力：能够才加一定的法律关系，依法享有权利承担义务的主体能力； 行为能力：法律关系的主体能够通过自己的行为实际取得权利和承担义务的能力 行为能力必须以权利能力为前提，无权利能力就无法谈行为能力。 ●法人的权利能力：生于成立，终于解体 公民的权利能力：始于出生，终于死亡 ●自然人有权利能力，未必有行为能力，根据年龄和精神状况，分为：完全、限制、无行为能力人
一、填空与选择填空（本题答案写在此试卷上，30分） 1、模式识别系统的基本构成单元包括：模式采集、特征提取与选择 和模式分类。 2、统计模式识别中描述模式的方法一般使用特真矢量；句法模式识别中模式描述方法一般有串、树、网。 3、聚类分析算法属于（1）；判别域代数界面方程法属于（3）。 （1）无监督分类 (2)有监督分类（3）统计模式识别方法（4）句法模式识别方法 4、若描述模式的特征量为0-1二值特征量，则一般采用（4）进行相似性度量。 （1）距离测度（2）模糊测度（3）相似测度（4）匹配测度 5、下列函数可以作为聚类分析中的准则函数的有（1）（3）（4）。 （1）（2） (3) (4) 6、Fisher线性判别函数的求解过程是将N维特征矢量投影在（2）中进行。 （1）二维空间（2）一维空间（3）N-1维空间 7、下列判别域界面方程法中只适用于线性可分情况的算法有（1）；线性可分、不可分都适用的有（3）。 （1）感知器算法（2）H-K算法（3）积累位势函数法 8、下列四元组中满足文法定义的有（1）（2）（4）。 （1）({A, B}, {0, 1}, {A→01, A→ 0A1 , A→ 1A0 , B→BA , B→ 0}, A) （2）({A}, {0, 1}, {A→0, A→ 0A}, A) （3）({S}, {a, b}, {S → 00S, S → 11S, S → 00, S → 11}, S) （4）({A}, {0, 1}, {A→01, A→ 0A1, A→ 1A0}, A) 9、影响层次聚类算法结果的主要因素有（计算模式距离的测度、（聚类准则、类间距离门限、预定的 类别数目））。 10、欧式距离具有（ 1、2 ）；马式距离具有（1、2、3、4 ）。 （1）平移不变性（2）旋转不变性（3）尺度缩放不变性（4）不受量纲影响的特性 11、线性判别函数的正负和数值大小的几何意义是（正（负）表示样本点位于判别界面法向量指向的 正（负）半空间中；绝对值正比于样本点到判别界面的距离。）。 12、感知器算法1。 （1）只适用于线性可分的情况；（2）线性可分、不可分都适用。
题型： 1.填空题5题 填空题 2.名词解释4题 3.问答题4题 4.计算作图题3题 5.综合计算题1题 备注1：没有整理第一章和第六章，老师说不考的 备注2：非线性判别函数相关概念P69 概率相关定义、性质、公式P83以后 最小错误率贝叶斯决策公式P85 最小风险贝叶斯P86 正态贝叶斯P90 综合计算有可能是第六次作业 一、填空题 物以类聚人以群分体现的是聚类分析的基本思想。 模式识别分类：1.从实现方法来分模式识别分为监督分类和非监督分类；2.从理论上来分，有统计模式识别，统计模式识别，模糊模式识别，神经网络模式识别法 聚类分析是按照不同对象之间的差异，根据距离函数的规律做模式分类的。 模式的特性：可观察性、可区分性、相似性 模式识别的任务：一是研究生物体（包括人）是如何感知对象的，二是如何用计算机实现模式识别的理论和方法。 计算机的发展方向：1.神经网络计算机－－模拟人的大脑思维；2.生物计算机－－运用生物工程技术、蛋白分子作芯片； 3.光计算机－－用光作为信息载体，通过对光的处理来完成对信息的处理。 训练学习方法：监督学习、无监督学习（无先验知识，甚至类别数也未知）。 统计模式识别有：1.聚类分析法（非监督）；2.判决函数法/几何分类法(监督)；3.基于统计决策的概率分类法 - 以模式集在特征空间中分布的类概率密度函数为基础，对总体特征进行研究，以取得分类的方法 数据的标准化目的：消除各个分量之间数值范围大小对算法的影响 模式识别系统的基本构成：书P7 聚类过程遵循的基本步骤：特征选择；近邻测度；聚类准则；聚类算法；结果验证；结果判定。 相似测度基础：以两矢量的方向是否相近作为考虑的基础,矢量长度并不重要。 确定聚类准则的两种方式：阈值准则，函数准则 基于距离阈值的聚类算法——分解聚类：近邻聚类法；最大最小距离聚类法 类间距离计算准则:1）最短距离法2）最长距离法3）中间距离法4）重心法5）类平均距离法6）离差平方和法P24 系统聚类法——合并的思想 用于随机模式分类识别的方法，通常称为贝叶斯判决。 BAYES 决策常用的准则：最小错误率；最小风险 错误率的计算或估计方法：①按理论公式计算；②计算错误率上界；③实验估计。
第一章数据结构与算法 算法 1、算法:是指解题方案的准确而完整的描述。算法不等于程序,也不等计算机方法,程序的编制不可能优于算法的设计。 2、算法的基本特征：是一组严谨地定义运算顺序的规则,每一个规则都是有效的，是明确的,此顺序将在有限的次数下终止。特征包括：（1）可行性;（2)确定性(3）有穷性（4）拥有足够的情报。 ３、算法的基本要素:一是对数据对象的运算和操作；二是算法的控制结构。 ４、指令系统:一个计算机系统能执行的所有指令的集合。 5、基本运算包括:算术运算、逻辑运算、关系运算、数据传输。 ６、算法的控制结构：顺序结构、选择结构、循环结构。 7、算法基本设计方法：列举法、归纳法、递推、递归、减斗递推技术、回溯法。 8、算法复杂度:算法时间复杂度和算法空间复杂度。 9、算法时间复杂度是指执行算法所需要的计算工作量。 10、算法空间复杂度是指执行这个算法所需要的内存空间。 数据结构的基本基本概念 1、数据结构研究的三个方面: (1）数据集合中各数据元素之间所固有的逻辑关系，即数据的逻辑结构; （2）在对数据进行处理时，各数据元素在计算机中的存储关系,即数据的存储结构;（3）对各种数据结构进行的运算。数据结构是指相互有关联的数据元素的集合。 ２、数据的逻辑结构包含:(1）表示数据元素的信息;(2）表示各数据元素之间的前后件关系。数据的存储结构有顺序、链接、索引等。 ３、线性结构条件：(1）有且只有一个根结点;(２）每一个结点最多有一个前件，也最多有一个后件。非线性结构：不满足线性结构条件的数据结构。 线性表及其顺序存储结构 １、线性表是由一组数据元素构成,数据元素的位置只取决于自己的序号,元素之间的相对位置是线性的。在复杂线性表中,由若干项数据元素组成的数据元素称为记录,而由多个记录构成的线性表又称为文件。 2、非空线性表的结构特征: (1）且只有一个根结点ａ1，它无前件；(2)有且只有一个终端结点an，它无后件; （3)除根结点与终端结点外,其他所有结点有且只有一个前件,也有且只有一个后件。结点个数n称为线性表的长度,当ｎ=0时，称为空表。 3、线性表的顺序存储结构具有以下两个基本特点：(１）线性表中所有元素的所占的存储空间是连续的; (2)线性表中各数据元素在存储空间中是按逻辑顺序依次存放的。 4、顺序表的运算:插入、删除。 栈和队列 1、栈是限定在一端进行插入与删除的线性表,允许插入与删除的一端称为栈顶，不允许插入与删除的另一端称为栈底。栈按照“先进后出”（FILO)或“后进先出”(LＩFO）组织数据,栈具有记忆作用。用ｔop表示栈顶位置，用ｂottoｍ 表示栈底。 2、栈的基本运算：(1）插入元素称为入栈运算；（2)删除元素称为退栈运算;（３）读栈顶元素是将栈顶元素赋给一个指定的变量,此时指针无变化。 3、队列是指允许在一端（队尾）进入插入,而在另一端(队头）进行删除的线性表。Ｒear指针指向队尾,frｏnt 指针指向队头。 4、队列是“先进行出”(FIFO)或“后进后出”(LILO)的线性表。 线性链表
1.什么是模式及模式识别？模式识别的应用领域主要有哪些？ 模式：存在于时间，空间中可观察的事物，具有时间或空间分布的信息； 模式识别：用计算机实现人对各种事物或现象的分析,描述,判断,识别。 模式识别的应用领域：（1）字符识别；（2） 医疗诊断；（3）遥感； (4）指纹识别 脸形识别；（5）检测污染分析，大气，水源，环境监测； （6）自动检测；（7 ）语声识别，机器翻译，电话号码自动查询，侦听，机器故障判断； （8）军事应用。 2.模式识别系统的基本组成是什么？ （1） 信息的获取：是通过传感器，将光或声音等信息转化为电信息； （2） 预处理：包括A\D,二值化，图象的平滑，变换，增强，恢复，滤波等, 主要指图 象处理； （3） 特征抽取和选择：在测量空间的原始数据通过变换获得在特征空间最能反映分类 本质的特征； （4） 分类器设计：分类器设计的主要功能是通过训练确定判决规则，使按此类判决规 则分类时，错误率最低。把这些判决规则建成标准库； （5） 分类决策：在特征空间中对被识别对象进行分类。 3.模式识别的基本问题有哪些？ （1）模式(样本)表示方法：（a ）向量表示；（b ）矩阵表示；（c ）几何表示；（4）基元(链码)表示； （2）模式类的紧致性：模式识别的要求:满足紧致集，才能很好地分类；如果不满足紧致集，就要采取变换的方法,满足紧致集 （3）相似与分类；(a)两个样本x i ，x j 之间的相似度量满足以下要求： ① 应为非负值 ② 样本本身相似性度量应最大 ③ 度量应满足对称性 ④ 在满足紧致性的条件下，相似性应该是点间距离的 单调函数 (b) 用各种距离表示相似性 （4）特征的生成:特征包括：(a)低层特征;(b)中层特征;(c)高层特征 （5） 数据的标准化:(a)极差标准化；(b)方差标准化 4．线性判别方法 （1）两类：二维及多维判别函数，判别边界，判别规则 二维情况：（a ）判别函数： ( ) （b ）判别边界：g(x)=0; （c n 维情况：（a ）判别函数： 也可表示为： 32211)(w x w x w x g ++=为坐标向量为参数，21,x x w 12211......)(+++++=n n n w x w x w x w x g X W x g T =)(为增值模式向量。 ，＝为增值权向量，T n n T n n x x x x X w w w w W )1,...,,(),,...,,(21121+=+
中国科学技术大学模式识别试题 （2012年春季学期） 姓名：学号：成绩： 一、填空与选择填空（本题答案写在此试卷上，30分） 1、模式识别系统的基本构成单元包括：、 和。 2、统计模式识别中描述模式的方法一般使用；句法模式识别中模式描述方法一般 有、、。 3、聚类分析算法属于；判别域代数界面方程法属于。 （1）无监督分类 (2)有监督分类（3）统计模式识别方法（4）句法模式识别方法 4、若描述模式的特征量为0-1二值特征量，则一般采用进行相似性度量。 （1）距离测度（2）模糊测度（3）相似测度（4）匹配测度 5、下列函数可以作为聚类分析中的准则函数的有。 （1） (4) 6、Fisher线性判别函数的求解过程是将N维特征矢量投影在中进行。 （1）二维空间（2）一维空间（3）N-1维空间 7、下列判别域界面方程法中只适用于线性可分情况的算法有；线性可分、不可分都适用的 有。 （1）感知器算法（2）H-K算法（3）积累位势函数法 8、下列四元组中满足文法定义的有。 （1）({A, B}, {0, 1}, {A→01, A→ 0A1 , A→ 1A0 , B→BA , B→ 0}, A) （2）({A}, {0, 1}, {A→0, A→ 0A}, A) （3）({S}, {a, b}, {S → 00S, S → 11S, S → 00, S → 11}, S) （4）({A}, {0, 1}, {A→01, A→ 0A1, A→ 1A0}, A) 二、(15分)简答及证明题 （1）影响聚类结果的主要因素有那些？ （2）证明马氏距离是平移不变的、非奇异线性变换不变的。 （3）画出对样本集 ω1：{(0,0,0)T, (1,0,0)T, (1,0,1)T, (1,1,0)T,} PDF 文件使用 "pdfFactory Pro" 试用版本创建https://www.doczj.com/doc/2d14546506.html,
模式识别与机器学习期末考查 试卷 研究生姓名：入学年份：导师姓名：试题1：简述模式识别与机器学习研究的共同问题和各自的研究侧重点。 答：（1）模式识别是研究用计算机来实现人类的模式识别能力的一门学科，是指对表征事物或现象的各种形式的信息进行处理和分析，以对事物或现象进行描述、辨认、分类和解释的过程。主要集中在两方面，一是研究生物体（包括人）是如何感知客观事物的，二是在给定的任务下，如何用计算机实现识别的理论和方法。机器学习则是一门研究怎样用计算机来模拟或实现人类学习活动的学科，是研究如何使机器通过识别和利用现有知识来获取新知识和新技能。主要体现以下三方面：一是人类学习过程的认知模型；二是通用学习算法；三是构造面向任务的专用学习系统的方法。两者关心的很多共同问题，如：分类、聚类、特征选择、信息融合等，这两个领域的界限越来越模糊。机器学习和模式识别的理论和方法可用来解决很多机器感知和信息处理的问题，其中包括图像/ 视频分析（文本、语音、印刷、手写）文档分析、信息检索和网络搜索等。 （2）机器学习和模式识别是分别从计算机科学和工程的角度发展起来的，各自的研究侧重点也不同。模式识别的目标就是分类，为了提高分类器的性能，可能会用到机器学习算法。而机器学习的目标是通过学习提高系统性能，分类只是其最简单的要求，其研究更
侧重于理论，包括泛化效果、收敛性等。模式识别技术相对比较成熟了，而机器学习中一些方法还没有理论基础，只是实验效果比较好。许多算法他们都在研究，但是研究的目标却不同。如在模式识别中研究所关心的就是其对人类效果的提高，偏工程。而在机器学习中则更侧重于其性能上的理论证明。试题2：列出在模式识别与机器学习中的常用算法及其优缺点。答：（1）K 近邻法算法作为一种非参数的分类算法，它已经广泛应用于分类、 回归和模式识别等。在应用算法解决问题的时候，要注意的两个方面是样本权重和特征权重。 优缺点：非常有效，实现简单，分类效果好。样本小时误差难控制，存储所有样本，需要较大存储空间，对于大样本的计算量大。（2）贝叶斯决策法 贝叶斯决策法是以期望值为标准的分析法，是决策者在处理 风险型问题时常常使用的方法。 优缺点：由于在生活当中许多自然现象和生产问题都是难以完全准确预测的，因此决策者在采取相应的决策时总会带有一定的风险。贝叶斯决策法就是将各因素发生某种变动引起结果变动的概率凭统计资料或凭经验主观地假设，然后进一步对期望值进行分析，由于此概率并不能证实其客观性，故往往是主观的和人为的概率，本身带有一定的风险性和不肯定性。虽然用期望的大小进行判断有一些风险，但仍可以认为贝叶斯决策是一种兼科学性和实效性于一身的比较完善的用于解决风险型决策问题的方法，在实际中能够广泛应
第一章数字图像处理概论 *图像是对客观存在对象的一种相似性的、生动性的描述或写真。 *模拟图像 空间坐标和明暗程度都是连续变化的、计算机无法直接处理的图像 *数字图像 空间坐标和灰度均不连续的、用离散的数字（一般整数）表示的图像（计算机能处理）。是图像的数字表示，像素是其最小的单位。 * 数字图像处理（Digital Image Processi ng ） 利用计算机对数字图像进行（去除噪声、增强、复原、分割、特征提取、识别等）系列操作，从而获得某种预期的结果的技术。（计算机图像处理） *数字图像处理的特点（优势） （1）处理精度高，再现性好。（2）易于控制处理效果。（3）处理的多样性。（4）图像数据量庞大。（5）图像处理技术综合性强。 *数字图像处理的目的 （1）提高图像的视感质量，以达到赏心悦目的目的 a. 去除图像中的噪声； b. 改变图像的亮度、颜色； c. 增强图像中的某些成份、抑制某些成份； d. 对图像进行几何变换等，达到艺术效果； （2）提取图像中所包含的某些特征或特殊信息。 a.模式识别、计算机视觉的预处理 （3）对图像数据进行变换、编码和压缩，以便于图像的存储和传输。? ?数字图像处理的主要研究内容 （1）图像的数字化 a. 如何将一幅光学图像表示成一组数字，既不失真又便于计算机分析处理 b. 主要包括的是图像的采样与量化 （2*）图像的增强 a.加强图像的有用信息，消弱干扰和噪声 （3）图像的恢复 a.把退化、模糊了的图像复原。模糊的原因有许多种，最常见的有运动模糊，散焦模糊等 （4*）图像的编码 a.简化图像的表示，压缩表示图像的数据，以便于存储和传输。 （5）图像的重建 a.由二维图像重建三维图像（如CT （6）图像的分析
模式识别 复习题 1. 简单描述模式识别系统的基本构成（典型过程）？ 2. 什么是监督模式识别（学习）？什么是非监督模式识别（学习）？ 对一副道路图像，希望把道路部分划分出来，可以采用以下两种方法： (1). 在该图像中分别在道路部分与非道路部分画出一个窗口，把在这两个窗口中的象素数据作为训练集，用某种判别准则求得分类器参数，再用该分类器对整幅图进行分类。 (2)．将整幅图的每个象素的属性记录在一张数据表中，然后用某种方法将这些数据按它们的自然分布状况划分成两类。因此每个象素就分别得到相应的类别号，从而实现了道路图像的分割。 试问以上两种方法哪一种是监督学习，哪个是非监督学习？ 3. 给出一个模式识别的例子。 4. 应用贝叶斯决策的条件是什么？列出几种常用的贝叶斯决策规 则，并简单说明其规则. 5. 分别写出在以下两种情况：（1）12(|)(|)P x P x ωω=；（2）12()() P P ωω=下的最小错误率贝叶斯决策规则。 6. （教材P17 例2.1） 7. （教材P20 例2.2），并说明一下最小风险贝叶斯决策和最小错误 率贝叶斯决策的关系。 8. 设在一维特征空间中有两类服从正态分布的样本， 12122,1,3,σσμμ====两类先验概率之比12(),() P e P ωω= 试确定按照最小错误率贝叶斯决策规则的决策分界面的x 值。
9. 设12{,,...,}N x x x =X 为来自点二项分布的样本集，即 1(,),0,1,01,1x x f x P P Q x P Q P -==≤≤=-，试求参数P 的最大似然估 计量?P 。 10. 假设损失函数为二次函数2??(,)()P P P P λ=-，P 的先验密度为均匀分布，即()1,01f P P =≤≤。在这样的假设条件下，求上题中的贝叶 斯估计量?P 。 11. 设12{,,...,}N x x x =X 为来自(|)p x θ的随机样本，其中0x θ≤≤时， 1 (|)p x θθ=，否则为0。证明θ的最大似然估计是max k k x 。 12. 考虑一维正态分布的参数估计。设样本（一维）12,,...,N x x x 都是由 独立的抽样试验采集的，且概率密度函数服从正态分布，其均值μ和方差2σ未知。求均值和方差的最大似然估计。 13. 设一维样本12{,,...,}N x x x =X 是取自正态分布2(,)N μσ的样本集，其中 均值μ为未知的参数，方差2σ已知。未知参数μ是随机变量，它的先验分布也是正态分布200(,)N μσ，200,μσ为已知。求μ的贝叶斯估计 ?μ 。 14. 什么是概率密度函数的参数估计和非参数估计？分别列去两种 参数估计方法和非参数估计方法。 15. 最大似然估计和Parzen 窗法的基本原理？
1.简述模式的概念及其直观特性，模式识别的分类，有哪几种方法。（6’） 答（1）：什么是模式？广义地说，存在于时间和空间中可观察的物体，如果我们可以区别它们是否相同或是否相似，都可以称之为模式。 模式所指的不是事物本身，而是从事物获得的信息，因此，模式往往表现为具有时间和空间分布的信息。 模式的直观特性：可观察性；可区分性；相似性。 答（2）：模式识别的分类： 假说的两种获得方法（模式识别进行学习的两种方法）： ●监督学习、概念驱动或归纳假说； ●非监督学习、数据驱动或演绎假说。 模式分类的主要方法： ●数据聚类：用某种相似性度量的方法将原始数据组织成有意义的和有用的各种数据 集。是一种非监督学习的方法，解决方案是数据驱动的。 ●统计分类：基于概率统计模型得到各类别的特征向量的分布，以取得分类的方法。 特征向量分布的获得是基于一个类别已知的训练样本集。是一种监督分类的方法， 分类器是概念驱动的。 ●结构模式识别：该方法通过考虑识别对象的各部分之间的联系来达到识别分类的目 的。（句法模式识别） ●神经网络：由一系列互相联系的、相同的单元（神经元）组成。相互间的联系可以 在不同的神经元之间传递增强或抑制信号。增强或抑制是通过调整神经元相互间联 系的权重系数来（weight）实现。神经网络可以实现监督和非监督学习条件下的分 类。 2.什么是神经网络？有什么主要特点？选择神经网络模式应该考虑什么因素？ （8’） 答（1）：所谓人工神经网络就是基于模仿生物大脑的结构和功能而构成的一种信息处 理系统（计算机）。由于我们建立的信息处理系统实际上是模仿生理神经网络，因此称它为人工神经网络。这种网络依靠系统的复杂程度，通过调整内部大量节点之间相互连接的关系，从而达到处理信息的目的。 人工神经网络的两种操作过程：训练学习、正常操作（回忆操作）。 答（2）：人工神经网络的特点： ●固有的并行结构和并行处理； ●知识的分布存储； ●有较强的容错性； ●有一定的自适应性； 人工神经网络的局限性： ●人工神经网络不适于高精度的计算； ●人工神经网络不适于做类似顺序计数的工作； ●人工神经网络的学习和训练往往是一个艰难的过程； ●人工神经网络必须克服时间域顺序处理方面的困难； ●硬件限制； ●正确的训练数据的收集。 答（3）：选取人工神经网络模型，要基于应用的要求和人工神经网络模型的能力间的 匹配，主要考虑因素包括：
公共基础知识常考知识点汇总1 1.我国政权组织形式是人民代表大会制。 2.行政许可是行政机关的批准行为。 3.行政行为以受法律规范拘束的程度为标准,可以分为两类羁束行政行为与自由裁量行政行为。 4.在诉讼期间的最后六个月内,因不可抗力或者其他障碍不能行使请求权的,诉讼时效中止。 5.书写公文中的成文日期应使用汉字。 6.规定用于依照有关法律规定发布行政法规和规章。 7.以上请示事项当否,请即批复。 8.命令不属于规定性文件,属于规定性文件的有规定、条例、办法。 9.由机关领导对发文稿批注核准发出的意见并签署姓名及日期的活动,是发文处理中的签发。 10.一切唯心主义哲学认为世界的本原是意识的。 11. “静者,动之静也”的观点是认为静止是运动的特殊状态 12.运动的主体是物质 13.质变是事物根本性质的变化 14.马克思主义哲学认为否定是辩证的否定。 15. “离开革命实践的理论是空洞的理论,而不以革命理论为指南的实践是盲目的实践。”这段话强调的是要坚持理论和实践相结合的原则来源:河南京佳
16.历史唯物主义的任务在于揭示社会发展的一般规律 17.社会进步的内在根据是社会基本矛盾运动 18.在社会主义建设新时期,中国共产党完成指导思想拨乱反正的标志是党的十一届六中全会通过《关于建国以来党的若干历史问题的决议》 19.邓小平对党的思想路线的贡献在于强调解放思想 20.党的十四大把社会主义初级阶段理论作为社会主义发展阶段问题进行了新的论述,成为邓小平理论的重要基础。 21.我国企业改革的目标是建立现代企业制度 22.建立社会主义市场经济体制,就是要使市场在国家宏观调控下对生产力的配置起基础性作用 23.当社会总需求大于社会总供给时,一般不宜采取松的货币政策 24.劳动力市场是劳动力资源的交易和分配的场所 25.根据现代企业制度的基本特征,企业拥有包括国家在内的出资者投资形成资产的全部法人财产权 26.社会主义经济在资源的配置方面,最为有效的体制是社会主义市场经济体制 27.社会保障体系的核心内容是:社会保险。 28. “两手抓,两手都要硬”是社会主义精神文明建设的战略方针 29.社会主义要消灭贫穷,这是由社会主义的本质决定的。 30.我国政府职能的实施主体是各级人民政府。
《模式识别》试题库 一、基本概念题 1.1 模式识别的三大核心问题是：、、。 1.2、模式分布为团状时，选用聚类算法较好。 1.3 欧式距离具有。马式距离具有。 （1）平移不变性（2）旋转不变性（3）尺度缩放不变性（4）不受量纲影响的特性 1.4 描述模式相似的测度有：。 （1）距离测度（2）模糊测度（3）相似测度（4）匹配测度 1.5 利用两类方法处理多类问题的技术途径有：（1）；（2）； （3）。其中最常用的是第个技术途径。 1.6 判别函数的正负和数值大小在分类中的意义 是：， 。 1.7 感知器算法。 （1）只适用于线性可分的情况；（2）线性可分、不可分都适用。 1.8 积累位势函数法的判别界面一般为。 （1）线性界面；（2）非线性界面。 1.9 基于距离的类别可分性判据有：。 （1） 1 [] w B Tr S S - （2） B W S S （3） B W B S S S + 1.10 作为统计判别问题的模式分类，在（）情况下，可使用聂曼-皮尔逊判决准则。 1.11 确定性模式非线形分类的势函数法中，位势函数K(x,x k)与积累位势函数K(x)的关系为 （）。 1.12 用作确定性模式非线形分类的势函数法，通常，两个n维向量x和x k的函数K(x,x k)若同时满足下列三个条件，都可作为势函数。 ①（）；
②（ ）； ③ K(x,x k )是光滑函数，且是x 和x k 之间距离的单调下降函数。 1.13 散度J ij 越大，说明ωi 类模式与ωj 类模式的分布（ ）。当ωi 类模式与ωj 类模式的分布相同时，J ij =（ ）。 1.14 若用Parzen 窗法估计模式的类概率密度函数，窗口尺寸h1过小可能产生的问题是（ ），h1过大可能产生的问题是（ ）。 1.15 信息熵可以作为一种可分性判据的原因 是： 。 1.16作为统计判别问题的模式分类，在（ ）条件下，最小损失判决规则与最小错误判决规则是等价的。 1.17 随机变量l(x ρ)=p( x ρ|ω1)/p( x ρ|ω2)，l( x ρ)又称似然比，则E {l( x ρ)|ω2}= （ ）。在最小误判概率准则下，对数似然比Bayes 判决规则为（ ）。 1.18 影响类概率密度估计质量的最重要因素是 （ ）。 1.19 基于熵的可分性判据定义为 )] |(log )|([1 x P x P E J i c i i x H ρ ρωω∑=-=，J H 越（ ），说明模式的 可分性越强。当P(ωi | x ρ) =（ ）(i=1,2,…,c)时，J H 取极大值。 1.20 Kn 近邻元法较之于Parzen 窗法的优势在于 （ ）。 上述两种算法的共同弱点主要是（ ）。 1.21 已知有限状态自动机Af=(∑，Q ，δ，q0，F)，∑={0，1}；Q={q0，q1}； δ：δ(q0，0)= q1，δ(q0，1)= q1，δ(q1，0)=q0，δ(q1，1)=q0；q0=q0；F={q0}。现有输入字符串：(a) 00011101011，(b) 1100110011，(c) 101100111000，(d)0010011，试问，用Af 对上述字符串进行分类的结果为（ ）。 1.22 句法模式识别中模式描述方法有： 。 （1）符号串 （2）树 （3）图 （4）特征向量
事业单位公共基础知识：中共党史考点汇总 【导语】 中公事业单位考试网为方便各位考生备考2016年事业单位公共基础知识考试，今天为大家带来《中共党史考点汇总》，希望可以帮助各位考生顺利备考事业单位考试。 随着事业单位考试的发展和探索，中共党史逐渐成为了不可小觑的一部分。一些省份的考试大纲中取消了对马克思主义哲学和历史人文科技的考查，明确提出“了解中国共产党的历史和党的建设理论”。因此中共党史的分数高低对整体的考试成绩必然有所影响。那么，现在我们就来看看中共党史中涉及的高频考点如下： 1.五四运动是一次彻底的反帝反封建的爱国主义运动，中国无产阶级开始登上政治舞台，是新民主主义革命的开端。 2.1921年7月23日，中国共产党第一次全国代表大会在上海举行。 3.1922年7月，中国共产党第二次全国代表大会在上海召开。中共二大第一次提出了明确的反帝反封建的民主革命纲领。 4.1923年6月，中国共产党第三次全国代表大会在广州举行。大会确定共产党员以个人身份加入国民党，用党内合作的形式实现国共合作。1924年1月，国民党第一次全国代表大会在广州举行，标志着国共两党革命统一战线正式建立。 5.8月1日，周恩来、贺龙、叶挺、朱德、刘伯承等人率领在中国共产党掌握或
影响下的北伐军两万多人在南昌宣布起义，打响了武装反抗国民党反动派的第一枪。 6.1927年8月7日，中共中央在湖北汉口秘密召开紧急会议，即“八七会议”，是中国共产党由大革命失败到土地革命兴起的历史性转变， 7.1935年10月，中央红军主力到达陕甘苏区吴起镇，与刘志丹、谢子长等领导的陕北红军胜利会师。1936年10月，红二方面军、红四方面军同红一方面军在甘肃会宁地区会师。红军三大主力会师，宣告红军二万五千里、纵横l1个省的震惊中外的长征胜利结束。 8.1935年1月，中国共产党在贵州遵义召开了中央政治局扩大会议，即遵义会议。遵义会议在最危急的关头挽救了党，挽救了红军，挽救了中国革命，成为中国共产党历史上一个生死攸关的转折点。 9.西安事变的和平解决，标志着十年内战局面的基本结束，抗日民族统一战线初步形成。 10.1937年7月7日，爆发“七七事变”。七七事变被定性为日本帝国主义全面侵华的开端和中华民族全面抗战的开始。 11.1945年8月15日，日本宣布无条件投降。9月2日，日本签署投降书。9月9日，冈村宁次在中国战区投降书上签字，抗日战争胜利结束。 这些考点是在考试中的高频考点，以记忆性知识为主，希望各位考生能够结合练习题，夯实基础，把握要点。预祝大家梦想成真!
《模式识别》试题答案（A卷） 一、填空与选择填空（本题答案写在此试卷上，30分） 1、影响层次聚类算法结果的主要因素有（计算模式距离的测度、（聚类准则、类间距离门限、预定 的类别数目））。 2、欧式距离具有（ 1、2 ）；马式距离具有（1、2、 3、4 ）。（1）平移不变性（2）旋转不 变性（3）尺度缩放不变性（4）不受量纲影响的特性 3、线性判别函数的正负和数值大小的几何意义是（正（负）表示样本点位于判别界面法向量指向的 正（负）半空间中；绝对值正比于样本点到判别界面的距离。）。 4、感知器算法1。（1）只适用于线性可分的情况；（2）线性可分、不可分都适用。 5、积累势函数法较之于H-K算法的优点是（该方法可用于非线性可分情况（也可用于线性可分情 况））；位势函数K(x,x k)与积累位势函数K(x)的关系为（ ∑ ∈ = X x x x K x K ~ k k k ) , ( ) ( α ）。 6、在统计模式分类问题中，聂曼-皮尔逊判决准则主要用于（某一种判决错误较另一种判决错误更 为重要）情况；最小最大判决准则主要用于（先验概率未知的）情况。 7、“特征个数越多越有利于分类”这种说法正确吗？（错误）。特征选择的主要目的是（从n个特 征中选出最有利于分类的的m个特征（m