下载文档原格式
4.6 广义线性判别函数前几节研究了线性判决函数的理论和分类方法，它们的优点是简单易行。
但是实际应用中却常常遇到非线性判决函数，如果能将非线性函数转化为线性判决函数，那么线性判决函数的理论和分类方法的应用将会更加广泛。
实际上，非线性判别函数是可以转变成线性函数的，也就是转成广义线性判决函数。
1.广义线性判别函数的概念如：有一个判决函数)(x g ，为非线性的，如下图所示：图中，a 、b 为两类的分界点。
可以用式子：))(()(b x a x x g --=描述。
并且，判决规则为： 若：a x <或b x >, 0)(>x g ，则1w x ∈。
b x a <<，0)(<x g ，则2w x ∈。
下面对)(x g 进行非线性变换：令21x y =，x y =2，则)(x g 作为判决函数可写成：()g x =()()x a x b --()2x x a b ab =-++32211)(w y w y w y g ++=其中：ab w b a w w =+-==321),(,1因此，通过非线性变换，非线性判决函数)(x g 转变成了线性判决函数)(y g 。
同时，特征空间也由一维的x 空间，映射成二维的y 空间。
也就是，在执行非线性变换的过程中，特征空间维数的增长往往不可避免。
在y 的特征空间里，区分直线为：0)(21=++-ab y b a y ，如下图：区分直线把y 空间线性地划分为两个类型区域1w 和2w ，判决规则为：若0)(>y g ，则1w y ∈，也就是1w x ∈0)(<y g ，则2w y ∈，也就是2w x ∈对样本x 的测量值：① 先进行非线性变换，x y x y ==221, ② 计算)(x g 之值，ab y b a y x g ++-=21)()( ③ 判决类别下面讨论非线性判决函数的一般形式： 把非线性判决函数写成一般形式，就是：12211)(....)()()(+++++=d d d w x f w x f w x f w x g其中，)(x f i （d i ,...,2,1=）是x 的单值实函数，且存在非线性关系，x 是k 维的。
目 录第1章 信号与系统1.1 复习笔记1.2 课后习题详解1.3 名校考研真题详解第2章 连续系统的时域分析2.1 复习笔记2.2 课后习题详解2.3 名校考研真题详解第3章 离散系统的时域分析3.1 复习笔记3.2 课后习题详解3.3 名校考研真题详解第4章 傅里叶变换和系统的频域分析4.1 复习笔记4.2 课后习题详解4.3 名校考研真题详解第5章 连续系统的s域分析5.1 复习笔记5.2 课后习题详解5.3 名校考研真题详解第6章 离散系统的z域分析6.1 复习笔记6.2 课后习题详解6.3 名校考研真题详解第7章 系统函数7.1 复习笔记7.2 课后习题详解7.3 名校考研真题详解第8章 系统的状态变量分析8.1 复习笔记8.2 课后习题详解8.3 名校考研真题详解第1章 信号与系统1.1 复习笔记一、信号的基本概念与分类信号是载有信息的随时间变化的物理量或物理现象，其图像为信号的波形。
根据信号的不同特性，可对信号进行不同的分类：确定信号与随机信号；周期信号与非周期信号；连续时间信号与离散时间信号；实信号与复信号；能量信号与功率信号等。
二、信号的基本运算1加法和乘法f1（t）±f2（t）或f1（t）×f2（t）两信号f1（·）和f2（·）的相加、减、乘指同一时刻两信号之值对应相加、减、乘。
2．反转和平移（1）反转f（－t）f（－t）波形为f（t）波形以t＝0为轴反转。
图1-1（2）平移f（t＋t0）t0＞0，f（t＋t0）为f（t）波形在t轴上左移t0；t0＜0，f（t＋t0）为f（t）波形在t轴上右移t0。
图1-2平移的应用：在雷达系统中，雷达接收到的目标回波信号比发射信号延迟了时间t0，利用该延迟时间t0可以计算出目标与雷达之间的距离。
这里雷达接收到的目标回波信号就是延时信号。
3．尺度变换f（at）若a＞1，则f（at）波形为f（t）的波形在时间轴上压缩为原来的；若0＜a＜1，则f（at）波形为f（t）的波形在时间轴上扩展为原来的；若a＜0，则f（at）波形为f（t）的波形反转并压缩或展宽至。
Fisher判别函数，也称为线性判别函数（Linear Discriminant Function），是一种经典的模式识别方法。
它通过将样本投影到一维或低维空间，将不同类别的样本尽可能地区分开来。
一、算法原理：Fisher判别函数基于以下两个假设：1.假设每个类别的样本都服从高斯分布；2.假设不同类别的样本具有相同的协方差矩阵。
Fisher判别函数的目标是找到一个投影方向，使得同一类别的样本在该方向上的投影尽可能紧密，而不同类别的样本在该方向上的投影尽可能分开。
算法步骤如下：(1)计算类内散度矩阵（Within-class Scatter Matrix）Sw，表示每个类别内样本之间的差异。
Sw = Σi=1 to N (Xi - Mi)(Xi - Mi)ᵀ，其中Xi 表示属于类别i 的样本集合，Mi 表示类别i 的样本均值。
(2)计算类间散度矩阵（Between-class Scatter Matrix）Sb，表示不同类别之间样本之间的差异。
Sb = Σi=1 to C Ni(Mi - M)(Mi - M)ᵀ，其中 C 表示类别总数，Ni 表示类别i 中的样本数量，M 表示所有样本的均值。
(3)计算总散度矩阵（Total Scatter Matrix）St，表示所有样本之间的差异。
St =Σi=1 to N (Xi - M)(Xi - M)ᵀ(4)计算投影方向向量w，使得投影后的样本能够最大程度地分开不同类别。
w= arg max(w) (wᵀSb w) / (wᵀSw w)，其中w 表示投影方向向量。
(5)根据选择的投影方向向量w，对样本进行投影。
y = wᵀx，其中y 表示投影后的样本，x 表示原始样本。
(6)通过设置一个阈值或使用其他分类算法（如感知机、支持向量机等），将投影后的样本进行分类。
二、优点和局限性：Fisher判别函数具有以下优点：•考虑了类别内和类别间的差异，能够在低维空间中有效地区分不同类别的样本。
1、线性判别函数的正负和数值大小的几何意义2、支持向量机的判别函数，adaboost的判别函数3、什么是聂曼-皮尔逊判决准，什么是最小最大判决准则4、感知器算法特点5、什么是特征，什么是特征提取，什么是特征选择？6、分类和聚类有何区别？分别说出2-3种代表性算法7、Fisher算法的特点？8、数据预处理主要有哪些工作？9、什么是大数据，大数据有何特点？10、聚类中距离度量的方式有哪些，连续性数据和和二值数据分别怎么度量9、什么是Gini指数，其作用是什么？10、马式距离较之于欧式距离的优点11、关联规则的经典算法有哪些，各自的优缺点？12、什么是分类，什么是回归？分类的过程或步骤13、分类评价标准，怎么评价分类的优劣14、什么是数据，样本、什么是抽样15、什么是机器学习以及机器学习的一般步骤16. 样本属性的主要类型17.人工神经网络的激活函数有哪些？18．信息增益，在ID3算法中怎么用，表示什么含义19．二维数据三个混合项的高斯模型的概率密度方程20、什么是聚类？聚类分析有哪些主要距离度量方法21、什么是频繁项集22、关联规则的2大指标，支持度，可信度，（名词解释）23、什么是关联规则？怎样通过频繁K项集产生关联规则24、什么是贝叶斯网络及作用25、ID3算法及步骤26、神经网络的优缺点，bp网络的优缺点27、分工神经网络主要是模拟人脑的哪些能力？单层感知器有什么缺点？28、什么是过拟合，怎么解决过拟合？29、衡量模式识别与机器学习算法优劣的标准30、什么是有监督学习、什么无监督学习31、基于最小错误率的贝叶斯决策及基于最小风险的贝叶斯决策解决实际问题。
32、贝叶斯决策算法，最小风险贝叶斯、感知器算法、Apriori 算法、、K-中心算法、k-均值算法，等算法，步骤及伪代码。
实际问题示例：1、支持度20%，置信度20%，用Apriori 算法找出所有关联规则（要求完整步骤，写出所有的候选集，k 项集，及所有关联规则）2、识别鲈鱼和鲑鱼，其先验概率分别为 P(w 1)=0.9，P(w 2)=0.1，现有一待识别的鱼，其观察值为x ，从类条件概率密度分布曲线上查得1()0.6P x w =，4.0)(2=w x P ，并且已知011=λ，123λ=，121=λ，022=λ，分别写出自小风险和最小错误率的贝叶斯决策过程。
2022年自考27391工程数学(线性代数\复变函数)复习资料2022年自考27391工程数学(线性代数\复变函数)复习资料线性代数部分本课程考试采纳教材：《工程数学——线性代数》〔附大纲〕，申亚男、卢刚主编，外语教学与讨论出版社，2022年版。
考试的重点内容第一章行列式1.行列式的定义了解行列式的定义，掌控行列式的余子式与代数余子式，牢记上〔下〕三角行列式的计算公式，掌控用行列式定义计算含0特别多或结构非常的行列式。
2.行列式的性质理解行列式的性质，会用行列式性质化简行列式。
3.行列式按一行〔或一列〕开展娴熟掌控行列式按一行〔或一列〕开展的方法计算行列式。
第二章矩阵1.矩阵的概念理解矩阵的概念，掌控非常的方阵：上〔下〕三角形矩阵、对角矩阵和单位矩阵、对称矩阵和反对称矩阵。
2.矩阵的运算娴熟掌控矩阵的线性运算〔加法及数乘〕、乘法、方阵的方幂、转置等运算。
3.可逆矩阵4.矩阵的初等变换与初等矩阵娴熟掌控矩阵的初等变换，理解初等矩阵和初等变换的关系，会用初等行变换法求可逆矩阵的逆矩阵。
5.矩阵的秩知道矩阵的秩的定义，会用初等行变换求矩阵的秩。
第三章向量空间1.维向量空间2.向量间的线性关系会判断向量组的线性相关或线性无关，将给定的向量由向量组线性表出。
3.向量组的极大线性无关组掌控用矩阵的初等行变换求向量组的极大线性无关组。
4.向量组的秩与矩阵的秩掌控用矩阵的初等行变换求向量组的秩或矩阵的秩。
第四章线性方程组1.齐次线性方程组会判断齐次线性方程组是否有非零解，娴熟掌控用初等行变换求齐次线性方程组的基础解系及其通解。
2.非齐次线性方程组会判断非齐次线性方程组解的状况〔无解、有唯一解、有无穷解〕，娴熟掌控用初等行变换求非齐次线性方程组的通解。
第五章矩阵的相像对角化1.特征值与特征向量理解特征值与特征向量的定义，掌控求特征值与特征向量的方法。
2.相像矩阵与矩阵对角化理解矩阵相像的概念，掌控将矩阵化为相像对角矩阵的方法。
