模式识别概率部分试题

得证。 3、使用最小最大损失判决规则的错分概率是最小吗？为什么？
答：不是最小的。首先要明确当我们谈到最小最大损失判决规则时，先验概率是未知的， 而先验概率的变化会导致错分概率变化， 故错分概率也是一个变量。 使用最小最大损 失判决规则的目的就是保证在先验概率任意变化导致错分概率变化时， 错分概率的最 坏（即最大）情况在所有判决规则中是最好的（即最小）。 4、 若 λ11 = λ22 =0， λ12 = λ21 ，证明此时最小最大决策面是来自两类的错误率相等。 证明：最小最大决策面满足 （ λ11 - λ22 ）+（ λ21 - λ11 ） 容易得到
λ11 P(ω1 | x) + λ12 P(ω2 | x) < λ21 P(ω1 | x) + λ22 P(ω2 | x) ( λ21 - λ11 ) P (ω1 | x) >( λ12 - λ22 ) P (ω2 | x) ( λ21 - λ11 ) P (ω1 ) P ( x | ω1 ) >( λ12 - λ22 ) P (ω2 ) P ( x | ω2 ) p( x | ω1 ) (λ 12 − λ 22) P(ω2 ) > 即 p( x | ω2 ) ( λ 21 − λ 11) P (ω1 )
6、设总体分布密度为 N( μ ，1)，-∞< μ <+∞,并设 X={ x1 ， x2 ，… xN }，分别用最大似然 估计和贝叶斯估计计算 μ 。已知 μ 的先验分布 p（ μ ）～N（0,1）。 解：似然函数为：
∧Байду номын сангаас
L（ μ ）=lnp(X|u)=
∑ ln p( xi | u) = −
i =1
N
模式识别第三章作业及其解答

模式识别试卷及答案一、选择题（每题5分，共30分）1. 以下哪一项不是模式识别的主要任务？A. 分类B. 回归C. 聚类D. 预测答案：B2. 以下哪种算法不属于监督学习？A. 支持向量机（SVM）B. 决策树C. K最近邻（K-NN）D. K均值聚类答案：D3. 在模式识别中，以下哪一项是特征选择的目的是？A. 减少特征维度B. 增强模型泛化能力C. 提高模型计算效率D. 所有上述选项答案：D4. 以下哪种模式识别方法适用于非线性问题？A. 线性判别分析（LDA）B. 主成分分析（PCA）C. 支持向量机（SVM）D. 线性回归答案：C5. 在神经网络中，以下哪种激活函数常用于输出层？A. SigmoidB. TanhC. ReLUD. Softmax答案：D6. 以下哪种聚类算法是基于密度的？A. K均值聚类B. 层次聚类C. DBSCAND. 高斯混合模型答案：C二、填空题（每题5分，共30分）1. 模式识别的主要任务包括______、______、______。

答案：分类、回归、聚类2. 在监督学习中，训练集通常分为______和______两部分。

答案：训练集、测试集3. 支持向量机（SVM）的基本思想是找到一个______，使得不同类别的数据点被最大化地______。

答案：最优分割超平面、间隔4. 主成分分析（PCA）是一种______方法，用于降维和特征提取。

答案：线性变换5. 神经网络的反向传播算法用于______。

答案：梯度下降6. 在聚类算法中，DBSCAN算法的核心思想是找到______。

答案：密度相连的点三、简答题（每题10分，共30分）1. 简述模式识别的基本流程。

答案：模式识别的基本流程包括以下几个步骤：（1）数据预处理：对原始数据进行清洗、标准化和特征提取。

（2）模型选择：根据问题类型选择合适的模式识别算法。

（3）模型训练：使用训练集对模型进行训练，学习数据特征和规律。

精品文档电子科技大学研究生试卷（考试时间： 至 ，共 2 小时）课程名称 模式识别 教师 学时 40 学分 2 教学方式 课堂教学 考核日期 年 月 日 成绩 考核方式： （学生填写）1、（5分）简述有监督学习和无监督学习的异同。

答：（1）有监督学习必须要有训练集和测试样本，而非监督学习没有训练集； （2）有监督学习的目的就是识别事物，识别结果表现在给待识别数据加上了标号，因此训练样本集必须由带标号的样本组成，而非监督学习方法只有要分析的数据集本身，预先没有什么标号。

（3）非监督学习方法在寻找数据集中的规律性，这种规律性并不一定要达到分数据集的目的，也就是说不一定要“分类”。

2、（15分）计算单词model 和amdeol 的编辑距离，画出栅格图。

解： 栅格图为：a m d e o lmo d e lamdeolbcaty从栅格图可计算，model 和amdeol 的编辑距离为3。

学 号 姓 名 学 院……………………密……………封……………线……………以……………内……………答……………题……………无……………效……………………精品文档3、（15分）已知A 类样本为：123[0,1];[2,2];[2,3]a a a ===，B 类样本为：123[3,1];[4,3];[1,5]b b b ===，计算最小二乘分类面的方程（取值为-1和+1），并写出LMS 算法的流程。

解：（1）计算最小二乘分类面为[]0.4,0.26,1.45Tω=--。

（2）LMS 算法流程：步骤1. 初始化训练样本、权向量；步骤2. 选择一个训练样本，利用下列公式更新权向量：()[][1][1]2()k k T k iiy μ--=--w w x xw 训练样本数目步骤3. 重复所有样本。

4、（15分）在目标识别中，有1ω和2ω两种目标类型，它们的先验概率分别为0.8和0.2，在一次试验中，获得样本的类概率密度分别为()10.2p x ω=，()20.4p x ω=，并且已知110λ=，126λ=，211λ=，220λ=。

一、（15分）设有两类正态分布的样本集，第一类均值为T1μ=（2,0），方差11⎡⎤∑=⎢⎥⎣⎦11/21/2，第二类均值为T2μ=（2,2），方差21⎡⎤∑=⎢⎥⎣⎦1-1/2-1/2，先验概率12()()p p ωω=，试求基于最小错误率的贝叶斯决策分界面。

解 根据后验概率公式()()()()i i i p x p p x p x ωωω=， (2’)及正态密度函数11/21()exp[()()/2]2T i i i i nip x x x ωμμπ-=--∑-∑ ,1,2i =。

(2’) 基于最小错误率的分界面为1122()()()()p x p p x p ωωωω=， (2’) 两边去对数，并代入密度函数，得1111112222()()/2ln ()()/2ln T T x x x x μμμμ----∑--∑=--∑--∑ (1) (2’)由已知条件可得12∑=∑，114/3-⎡⎤∑=⎢⎥⎣⎦4/3-2/3-2/3，214/3-⎡⎤∑=⎢⎥⎣⎦4/32/32/3，(2’)设12(,)Tx x x =，把已知条件代入式（1），经整理得1221440x x x x --+=， (5’)二、（15分）设两类样本的类内离散矩阵分别为11S ⎡⎤=⎢⎥⎣⎦11/21/2, 21S ⎡⎤=⎢⎥⎣⎦1-1/2-1/2,各类样本均值分别为T 1μ=（1,0），T2μ=（3,2），试用fisher 准则求其决策面方程，并判断样本Tx =（2,2）的类别。

解：122S S S ⎡⎤=+=⎢⎥⎣⎦200 (2’) 投影方向为*112-2-1()211/2w S μμ-⎡⎤⎡⎤⎡⎤=-==⎢⎥⎢⎥⎢⎥--⎣⎦⎣⎦⎣⎦1/200 (6’)阈值为[]*0122()/2-1-131T y w μμ⎡⎤=+==-⎢⎥⎣⎦(4’)给定样本的投影为[]*0-12241T y w x y ⎡⎤===-<⎢⎥-⎣⎦， 属于第二类 (3’)三、 （15分）给定如下的训练样例实例 x0 x1 x2 t(真实输出) 1 1 1 1 1 2 1 2 0 1 3 1 0 1 -1 4 1 1 2 -1用感知器训练法则求感知器的权值，设初始化权值为0120w w w ===；1 第1次迭代（4’）2 第2次迭代（2’）3 第3和4次迭代四、 （15分）i. 推导正态分布下的最大似然估计；ii. 根据上步的结论，假设给出如下正态分布下的样本{}1,1.1,1.01,0.9,0.99，估计该部分的均值和方差两个参数。