模式识别实验报告年月

《模式识别》实验报告---最小错误率贝叶斯决策分类一、实验原理对于具有多个特征参数的样本（如本实验的iris 数据样本有4d =个参数），其正态分布的概率密度函数可定义为112211()exp ()()2(2)T d p π-⎧⎫=--∑-⎨⎬⎩⎭∑x x μx μ 式中，12,,,d x x x ⎡⎤⎣⎦=x 是d 维行向量，12,,,d μμμ⎡⎤⎣⎦=μ是d 维行向量，∑是d d ⨯维协方差矩阵，1-∑是∑的逆矩阵，∑是∑的行列式。

本实验我们采用最小错误率的贝叶斯决策，使用如下的函数作为判别函数()(|)(),1,2,3i i i g p P i ωω==x x （3个类别）其中()i P ω为类别i ω发生的先验概率，(|)i p ωx 为类别i ω的类条件概率密度函数。

由其判决规则，如果使()()i j g g >x x 对一切j i ≠成立，则将x 归为i ω类。

我们根据假设：类别i ω，i=1,2,……,N 的类条件概率密度函数(|)i p ωx ，i=1,2,……,N 服从正态分布，即有(|)i p ωx ~(,)i i N ∑μ，那么上式就可以写为1122()1()exp ()(),1,2,32(2)T i i dP g i ωπ-⎧⎫=-∑=⎨⎬⎩⎭∑x x -μx -μ对上式右端取对数，可得111()()()ln ()ln ln(2)222T i i i i dg P ωπ-=-∑+-∑-i i x x -μx -μ上式中的第二项与样本所属类别无关，将其从判别函数中消去，不会改变分类结果。

则判别函数()i g x 可简化为以下形式111()()()ln ()ln 22T i i i i g P ω-=-∑+-∑i i x x -μx -μ二、实验步骤（1）从Iris.txt 文件中读取估计参数用的样本，每一类样本抽出前40个，分别求其均值，公式如下11,2,3ii iii N ωωω∈==∑x μxclear% 原始数据导入iris = load('C:\MATLAB7\work\模式识别\iris.txt'); N=40;%每组取N=40个样本%求第一类样本均值 for i = 1:N for j = 1:4w1(i,j) = iris(i,j+1); end endsumx1 = sum(w1,1); for i=1:4meanx1(1,i)=sumx1(1,i)/N; end%求第二类样本均值 for i = 1:N for j = 1:4 w2(i,j) = iris(i+50,j+1);end endsumx2 = sum(w2,1); for i=1:4meanx2(1,i)=sumx2(1,i)/N; end%求第三类样本均值 for i = 1:N for j = 1:4w3(i,j) = iris(i+100,j+1); end endsumx3 = sum(w3,1); for i=1:4meanx3(1,i)=sumx3(1,i)/N; end（2）求每一类样本的协方差矩阵、逆矩阵1i -∑以及协方差矩阵的行列式i ∑， 协方差矩阵计算公式如下11()(),1,2,3,41i ii N i jklj j lk k l i x x j k N ωωσμμ==--=-∑其中lj x 代表i ω类的第l 个样本，第j 个特征值；ij ωμ代表i ω类的i N 个样品第j 个特征的平均值lk x 代表i ω类的第l 个样品，第k 个特征值；iw k μ代表i ω类的i N 个样品第k 个特征的平均值。

信息与通信工程学院模式识别实验报告班级：姓名：学号：日期：2011年12月实验一、Bayes 分类器设计一、实验目的：1.对模式识别有一个初步的理解2.能够根据自己的设计对贝叶斯决策理论算法有一个深刻地认识3.理解二类分类器的设计原理二、实验条件：matlab 软件三、实验原理：最小风险贝叶斯决策可按下列步骤进行： 1)在已知)(i P ω，)(i X P ω，i=1,…，c 及给出待识别的X 的情况下，根据贝叶斯公式计算出后验概率：∑==cj iii i i P X P P X P X P 1)()()()()(ωωωωω j=1,…，x2)利用计算出的后验概率及决策表，按下面的公式计算出采取ia ,i=1,…，a 的条件风险∑==cj j jii X P a X a R 1)(),()(ωωλ,i=1,2,…,a3)对(2)中得到的a 个条件风险值)(X a R i ,i=1,…，a 进行比较，找出使其条件风险最小的决策ka ，即()()1,min k i i aR a x R a x ==则ka 就是最小风险贝叶斯决策。

四、实验内容假定某个局部区域细胞识别中正常（1ω）和非正常（2ω）两类先验概率分别为 正常状态：P （1ω）=； 异常状态：P （2ω）=。

现有一系列待观察的细胞，其观察值为x ：已知先验概率是的曲线如下图：)|(1ωx p )|(2ωx p 类条件概率分布正态分布分别为（-2，）（2,4）试对观察的结果进行分类。

五、实验步骤：1.用matlab 完成分类器的设计，说明文字程序相应语句，子程序有调用过程。

2.根据例子画出后验概率的分布曲线以及分类的结果示意图。

3.最小风险贝叶斯决策，决策表如下：结果,并比较两个结果。

六、实验代码1.最小错误率贝叶斯决策 x=[] pw1=; pw2=; e1=-2; a1=; e2=2;a2=2;m=numel(x); %得到待测细胞个数pw1_x=zeros(1,m); %存放对w1的后验概率矩阵 pw2_x=zeros(1,m); %存放对w2的后验概率矩阵results=zeros(1,m); %存放比较结果矩阵for i = 1:m%计算在w1下的后验概率pw1_x(i)=(pw1*normpdf(x(i),e1,a1))/(pw1*normpdf(x(i),e1,a1)+pw2*normp df(x(i),e2,a2)) ;%计算在w2下的后验概率pw2_x(i)=(pw2*normpdf(x(i),e2,a2))/(pw1*normpdf(x(i),e1,a1)+pw2*normp df(x(i),e2,a2)) ;endfor i = 1:mif pw1_x(i)>pw2_x(i) %比较两类后验概率result(i)=0; %正常细胞elseresult(i)=1; %异常细胞endenda=[-5::5]; %取样本点以画图n=numel(a);pw1_plot=zeros(1,n);pw2_plot=zeros(1,n);for j=1:npw1_plot(j)=(pw1*normpdf(a(j),e1,a1))/(pw1*normpdf(a(j),e1,a1)+pw2*no rmpdf(a(j),e2,a2));%计算每个样本点对w1的后验概率以画图pw2_plot(j)=(pw2*normpdf(a(j),e2,a2))/(pw1*normpdf(a(j),e1,a1)+pw2*no rmpdf(a(j),e2,a2));endfigure(1);hold onplot(a,pw1_plot,'co',a,pw2_plot,'r-.');for k=1:mif result(k)==0plot(x(k),,'cp'); %正常细胞用五角星表示elseplot(x(k),,'r*'); %异常细胞用*表示end;end;legend('正常细胞后验概率曲线','异常细胞后验概率曲线','正常细胞','异常细胞');xlabel('样本细胞的观察值');ylabel('后验概率');title('后验概率分布曲线');grid onreturn%实验内容仿真：x = [, ,,, , ,, , , ,,,,,,, ,,,,,,, ]disp(x);pw1=;pw2=;[result]=bayes(x,pw1,pw2);2.最小风险贝叶斯决策x=[]pw1=; pw2=;m=numel(x); %得到待测细胞个数R1_x=zeros(1,m); %存放把样本X判为正常细胞所造成的整体损失R2_x=zeros(1,m); %存放把样本X判为异常细胞所造成的整体损失result=zeros(1,m); %存放比较结果e1=-2;a1=;e2=2;a2=2;%类条件概率分布px_w1:（-2，） px_w2（2,4）r11=0;r12=2;r21=4;r22=0;%风险决策表for i=1:m%计算两类风险值R1_x(i)=r11*pw1*normpdf(x(i),e1,a1)/(pw1*normpdf(x(i),e1,a1)+pw2*norm pdf(x(i),e2,a2))+r21*pw2*normpdf(x(i),e2,a2)/(pw1*normpdf(x(i),e1,a1) +pw2*normpdf(x(i),e2,a2));R2_x(i)=r12*pw1*normpdf(x(i),e1,a1)/(pw1*normpdf(x(i),e1,a1)+pw2*norm pdf(x(i),e2,a2))+r22*pw2*normpdf(x(i),e2,a2)/(pw1*normpdf(x(i),e1,a1) +pw2*normpdf(x(i),e2,a2));endfor i=1:mif R2_x(i)>R1_x(i) %第二类比第一类风险大result(i)=0; %判为正常细胞（损失较小），用0表示elseresult(i)=1; %判为异常细胞，用1表示endenda=[-5::5] ; %取样本点以画图n=numel(a);R1_plot=zeros(1,n);R2_plot=zeros(1,n);for j=1:nR1_plot(j)=r11*pw1*normpdf(a(j),e1,a1)/(pw1*normpdf(a(j),e1,a1)+pw2*n ormpdf(a(j),e2,a2))+r21*pw2*normpdf(a(j),e2,a2)/(pw1*normpdf(a(j),e1, a1)+pw2*normpdf(a(j),e2,a2))R2_plot(j)=r12*pw1*normpdf(a(j),e1,a1)/(pw1*normpdf(a(j),e1,a1)+pw2*n ormpdf(a(j),e2,a2))+r22*pw2*normpdf(a(j),e2,a2)/(pw1*normpdf(a(j),e1, a1)+pw2*normpdf(a(j),e2,a2))%计算各样本点的风险以画图endfigure(1);hold onplot(a,R1_plot,'co',a,R2_plot,'r-.');for k=1:mif result(k)==0plot(x(k),,'cp');%正常细胞用五角星表示elseplot(x(k),,'r*');%异常细胞用*表示end;end;legend('正常细胞','异常细胞','Location','Best');xlabel('细胞分类结果');ylabel('条件风险');title('风险判决曲线');grid onreturn%实验内容仿真：x = [, ,,, , ,, , , ,,,,,,, ,,,,,,, ]disp(x);pw1=;pw2=;[result]=bayes(x,pw1,pw2);七、实验结果1.最小错误率贝叶斯决策后验概率曲线与判决显示在上图中后验概率曲线：带红色虚线曲线是判决为异常细胞的后验概率曲线青色实线曲线是为判为正常细胞的后验概率曲线根据最小错误概率准则，判决结果显示在曲线下方：五角星代表判决为正常细胞，*号代表异常细胞各细胞分类结果（0为判成正常细胞，1为判成异常细胞）：0 0 0 0 0 0 0 0 0 0 0 0 0 1 0 1 1 1 0 0 0 1 0 12. 最小风险贝叶斯决策风险判决曲线如上图所示：带红色虚线曲线是异常细胞的条件风险曲线；青色圆圈曲线是正常细胞的条件风险曲线根据贝叶斯最小风险判决准则，判决结果显示在曲线下方：五角星代表判决为正常细胞，*号代表异常细胞各细胞分类结果（0为判成正常细胞，1为判成异常细胞）：1 0 0 0 0 0 0 0 0 0 0 0 1 1 0 1 1 1 0 0 0 1 0 1八、实验分析由最小错误率的贝叶斯判决和基于最小风险的贝叶斯判决得出的图形中的分类结果可看出，样本、在前者中被分为“正常细胞”，在后者中被分为“异常细胞”，分类结果完全相反。

第1篇一、实践背景与目的随着信息技术的飞速发展，模式识别技术在各个领域得到了广泛应用。

作为人工智能领域的一个重要分支，模式识别技术对于图像处理、语音识别、生物识别等领域的发展具有重要意义。

为了更好地理解和掌握模式识别技术，提高实际应用能力，我们组织了一次为期一个月的模式识别专业实践。

本次实践旨在通过实际操作，加深对模式识别理论知识的理解，提高解决实际问题的能力。

二、实践内容与过程1. 实践内容本次实践主要包括以下几个方面：（1）图像识别：利用深度学习算法进行图像分类、目标检测等。

（2）语音识别：实现语音信号处理、特征提取和识别。

（3）生物识别：研究指纹识别、人脸识别等生物特征识别技术。

（4）模式分类：运用机器学习算法进行数据分类和聚类。

2. 实践过程（1）理论学习：在实践开始前，我们首先对模式识别的基本理论进行了系统学习，包括图像处理、信号处理、机器学习等相关知识。

（2）项目准备：根据实践内容，我们选取了具有代表性的项目进行实践，如基于深度学习的图像识别、基于HMM的语音识别等。

（3）实验设计与实施：在导师的指导下，我们设计了实验方案，包括数据预处理、模型选择、参数调整等。

随后，我们使用Python、C++等编程语言进行实验编程，并对实验结果进行分析。

（4）问题分析与解决：在实验过程中，我们遇到了许多问题，如数据不足、模型效果不佳等。

通过查阅文献、请教导师和团队成员，我们逐步解决了这些问题。

三、实践成果与分析1. 图像识别我们使用卷积神经网络（CNN）对CIFAR-10数据集进行了图像分类实验。

实验结果表明，经过多次迭代优化，模型在测试集上的准确率达到89.5%，优于传统机器学习方法。

2. 语音识别我们采用HMM（隐马尔可夫模型）对TIMIT语音数据集进行了语音识别实验。

实验结果表明，经过特征提取和模型训练，模型在测试集上的词错误率（WER）为16.3%，达到了较好的识别效果。

3. 生物识别我们研究了指纹识别和人脸识别技术。

一、实习背景随着科技的飞速发展，人工智能、机器学习等技术在各个领域得到了广泛应用。

模式识别作为人工智能的一个重要分支，具有广泛的应用前景。

为了更好地了解模式识别技术，提高自己的实践能力，我在2023年暑假期间参加了某科技有限公司的模式识别实习。

二、实习单位简介某科技有限公司是一家专注于人工智能、大数据、云计算等领域的科技创新型企业。

公司致力于为客户提供智能化的解决方案，业务涵盖智能识别、智能监控、智能分析等多个领域。

此次实习，我将在该公司模式识别部门进行实践学习。

三、实习内容1. 实习前期（1）了解模式识别的基本概念、原理和应用领域；（2）熟悉模式识别的相关算法，如神经网络、支持向量机、决策树等；（3）掌握Python编程语言，学会使用TensorFlow、Keras等深度学习框架。

2. 实习中期（1）参与实际项目，负责模式识别算法的设计与实现；（2）与团队成员协作，完成项目需求分析、算法优化和系统测试；（3）撰写项目报告，总结实习过程中的收获与不足。

3. 实习后期（1）总结实习期间的学习成果，撰写实习报告；（2）针对实习过程中遇到的问题，查找资料、请教同事，提高自己的解决问题的能力；（3）为后续实习工作做好充分准备。

四、实习收获与体会1. 理论与实践相结合通过实习，我深刻体会到理论与实践相结合的重要性。

在实习过程中，我将所学的模式识别理论知识运用到实际项目中，提高了自己的动手能力。

同时，通过解决实际问题，我更加深入地理解了模式识别算法的原理和应用。

2. 团队协作能力实习期间，我学会了与团队成员有效沟通、协作。

在项目中，我们共同面对挑战，分工合作，共同完成项目任务。

这使我认识到团队协作的重要性，为今后的工作打下了基础。

3. 解决问题的能力在实习过程中，我遇到了许多问题。

通过查阅资料、请教同事、独立思考等方式，我逐渐学会了如何分析问题、解决问题。

这种能力对我今后的学习和工作具有重要意义。

4. 深度学习框架的使用实习期间，我学会了使用TensorFlow、Keras等深度学习框架。

实习报告一、实习背景及目的随着科技的飞速发展，模式识别技术在众多领域发挥着越来越重要的作用。

模式识别是指对数据进行分类、识别和解释的过程，其应用范围广泛，包括图像处理、语音识别、机器学习等。

为了更好地了解模式识别技术的原理及其在实际应用中的重要性，我参加了本次模式识别实习。

本次实习的主要目的是：1. 学习模式识别的基本原理和方法；2. 掌握模式识别技术在实际应用中的技巧；3. 提高自己的动手实践能力和团队协作能力。

二、实习内容及过程实习期间，我们团队共完成了四个模式识别项目，分别为：手写数字识别、图像分类、语音识别和机器学习。

下面我将分别介绍这四个项目的具体内容和过程。

1. 手写数字识别：手写数字识别是模式识别领域的一个经典项目。

我们使用了MNIST数据集，这是一个包含大量手写数字图片的数据集。

首先，我们对数据集进行预处理，包括归一化、数据清洗等。

然后，我们采用卷积神经网络（CNN）作为模型进行训练，并使用交叉验证法对模型进行评估。

最终，我们得到了一个识别准确率较高的模型。

2. 图像分类：图像分类是模式识别领域的另一个重要应用。

我们选择了CIFAR-10数据集，这是一个包含大量彩色图像的数据集。

与手写数字识别项目类似，我们先对数据集进行预处理，然后采用CNN进行训练。

在模型训练过程中，我们尝试了不同的优化算法和网络结构，以提高模型的性能。

最终，我们得到了一个识别准确率较高的模型。

3. 语音识别：语音识别是模式识别领域的又一项挑战。

我们使用了TIMIT数据集，这是一个包含大量语音样本的数据集。

首先，我们对语音样本进行预处理，包括特征提取、去噪等。

然后，我们采用循环神经网络（RNN）作为模型进行训练。

在模型训练过程中，我们尝试了不同的优化算法和网络结构。

最后，我们通过对模型进行评估，得到了一个较为可靠的语音识别系统。

4. 机器学习：机器学习是模式识别领域的基础。

我们使用了UCI数据集，这是一个包含多个数据集的数据集。

模式识别理论与方法
课程作业实验报告
实验名称：Generating Pattern Classes
实验编号：Proj02-01
规定提交日期：2012年3月30日
实际提交日期：2012年3月24日
摘要：
在熟悉贝叶斯分类器基本原理基础上，通过对比分类特征向量维数差异而导致分类正确率发生的变化，验证了“增加特征向量维数，可以改善分类结果”。

对于类数的先验概率已知、且无须考虑代价函数的情况，贝叶斯分类器相当简单：“跟谁亲近些，就归属哪一类”。

技术论述：
1，贝叶斯分类器基本原理：多数占优，错误率最小，风险最低
在两类中，当先验概率相等时，贝叶斯分类器可以简化如下：
2，增加有效分类特征分量，可以有助于改善分类效果
实验结果讨论：
从实验的过程和结果来看，进一步熟悉了贝叶斯分类器的原理和使用，基本达到了预期目的。

实验结果：
图1 原始数据
图2 按第1 个特征分量分类结果
图3 按第2 个特征分量分类结果
图4 综合两个特征分量分类结果附录：（程序清单，参见压缩包）
%在Matlab 版本2009a 下运行通过。

《模式识别》实验报告三、线性分类器实验1.(a)产生两个都具有200 个二维向量的数据集X1 和X1 ’。

向量的前半部分来自m1=[-5;0]的正态分布，并且S1=I 。

向量的后半部分来自m2=[5;0]的正态分布，并且S1=I。

其中I是一个2×2 的单位矩阵。

(b)在上面产生的数据集上运用Fisher 线性判别、感知器算法和最小平方误差判别算法，需要初始化参数的方法使用不同的初始值。

(c)测试每一种方法在X1 和X1 ’ 上的性能（错误率）。

(d)画出数据集X1 和X1 ’，已经每种方法得到对应参数向量W 的分界线。

Fisher线性判别图1 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，参数向量w = [-9.9406, 0.9030]’错误率error=0，感知器算法：图2 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，参数的初始值为[0.1;0.1]；迭代次数iter=2参数向量w = [-4.8925, 0.0920]’错误率error=0图3 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，参数的初始值为[1; 1]；迭代次数iter=2参数向量w = [-3.9925, 0.9920]’错误率error=0图4 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，参数的初始值为[10; 10]；迭代次数iter=122参数向量w = [-5.6569, 7.8096]’错误率error=0图5 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，参数的初始值为[50; 50]；迭代次数iter=600参数向量w = [-27.0945, 37.4194]’错误率error=0图6 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，参数的初始值为[50; 100]；迭代次数iter=1190参数向量w = [-54.0048, 74.5875]’错误率error=0最小平方误差判别算法：图7 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，参数的初始值为[0.1; 0.1]；参数向量w = [-0.1908, -0.0001]’错误率error=0图8 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，参数的初始值为[0.5; 0.5]；参数向量w = [-0.1924, 0.1492]’错误率error=0图9 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，参数的初始值为[1; 0.5]；参数向量w = [-0.1914, 0.0564]’错误率error=0图10 红色为第一类，绿色为第二类，直线为对应参数向量W的分界线，参数的初始值为[1; 1]；参数向量w = [-0.1943, 0.3359]’错误率error= 0.00502.重复1.中的实验内容，数据集为X2 和X2 ’。

山东大学模式识别KNN实验报告山东大学软件学院模式识别课程实验报告?学号：201500301139姓名：修丙楠班级：15级软件二班实验题目：KNN实验学时：实验日期：2018.1.19实验目的：使用K-NN算法识别数字0-9，数据集来自Machine Learning in Action 第二章。

书中把来自UCI数据库的手写数据集简化成32像素x32像素的黑白图像，并且以01矩阵的方式存储在txt文件中。

大约有训练样本2000个，测试样本900个。

硬件环境：?Processor: Intel(R) Core(TM) i5-7200U CPU @ 2.50GHz (4 CPUs), ~2.7GHz软件环境：Eclipse实验步骤与内容：实验一：实验要求：1.实现最基本的KNN算法，使用trainingDigits文件夹下的数据，对testDigits中的数据进行预测。

（K赋值为1，使用欧氏距离，多数投票决定分类结果）2.改变K的值，并观察对正确率的影响。

3.更改距离度量方式，更改投票方式（距离加权），分析错误率。

实验步骤：1、（1）KNN分析：KNN的算法思想比较简单，对于每一个测试集样本，计算其与所有训练集样本间的欧氏距离，对所有结果进行排序，选取其中距离最小的k个样本，采用多数投票的方式确定该测试集样本所属的类型。

（2）算法实现：·读文件：利用Java里提供的BufferedReader进行读文件操作，将读进来的样本以二维数组的形式存储·排序：选了冒泡排序的方法（因为写起来简单）·找出k近邻中出现次数最多的元素：用HashMap的key值存储每个元素出现的次数，最后返回key值最大的节点对应的元素。

（3）代码运行结果为了比较K的值对结果的影响，测试取了1-20之间的数作为k值运行结果如下：图1 1-NN图2 2-NN图3 1~20-NN绘制表格如下：K值准确率（%）198.73298.52398.63498.52598.10698.20797.89897.46997.781097.891197.891297.781397.361497.571597.361697.571797.151897.361997.252097.25绘制散点图如下：可以看到，随着K值的增加，预测的准确率反而逐渐降低，这与理论上样本足够多，K值足够大，正确率会越好的想法冲突，可能是K值增大后噪声点增多？2、更改距离度量方式可以考虑采用曼哈顿距离进行距离度量更改投票方式：让离的越近的样本点的权重值越大。

模式识别实验报告姓名：班级：学号：提交日期：实验一线性分类器的设计一、实验目的：掌握模式识别的基本概念，理解线性分类器的算法原理。

二、实验要求（1）学习和掌握线性分类器的算法原理；（2）在MATLAB 环境下编程实现三种线性分类器并能对提供的数据进行分类；（3）对实现的线性分类器性能进行简单的评估（例如算法使用条件，算法效率及复杂度等）。

三、算法原理介绍（1）判别函数：是指由x 的各个分量的线性组合而成的函数：0g(x)w ::t x w w w =+权向量阈值权若样本有c 类，则存在c 个判别函数，对具有0g(x)w t x w =+形式的判别函数的一个两类线性分类器来说，要求实现以下判定规则：12(x)0,y (x)0,y i i g g ωω>∈⎧⎨<∈⎩方程g(x)=0定义了一个判定面，它把两个类的点分开来，这个平面被称为超平面，如下图所示。

（2）广义线性判别函数线性判别函数g(x)又可写成以下形式：01(x)w di i i g w x ==+∑其中系数wi 是权向量w 的分量。

通过加入另外的项（w 的各对分量之间的乘积），得到二次判别函数：因为，不失一般性，可以假设。

这样，二次判别函数拥有更多的系数来产生复杂的分隔面。

此时g(x)=0定义的分隔面是一个二阶曲面。

若继续加入更高次的项，就可以得到多项式判别函数，这可看作对某一判别函数g(x)做级数展开，然后取其截尾逼近，此时广义线性判别函数可写成：或：这里y通常被成为“增广特征向量”(augmented feature vector)，类似的，a被称为“增广权向量”，分别可写成：这个从d维x空间到d+1维y空间的映射虽然在数学上几乎没有变化，但十分有用。

虽然增加了一个常量，但在x空间上的所有样本间距离在变换后保持不变，得到的y向量都在d维的自空间中，也就是x空间本身。

通过这种映射，可以将寻找权向量w和权阈值w0的问题简化为寻找一个简单的权向量a。