实验四 基于感知函数准则线性分类器设计

感知器准则函数范文
感知器是一种基于线性分离原理的二分类机器学习算法，传统的感知器算法主要依赖于一个重要的函数，准则函数（criterion function），用于确定感知器模型的权重并进行分类决策。

在本文中，我将详细介绍感知器准则函数的定义和作用，以及几种常见的准则函数类型。

1.均方误差函数（MSE）：
$$E(w) = \frac{1}{N}\sum_{i=1}^{N}(y_i - \hat{y_i})^2$$
2. 绝对误差函数（absolute error）：
$$E(w) = \frac{1}{N}\sum_{i=1}^{N}，y_i - \hat{y_i}，$$
对于具体的准则函数类型，根据准则函数的特点和应用场景，可以分为以下几种常见类型：
3. 对数似然函数（log-likelihood）：对数似然函数在分类问题中起着重要作用，它基于概率模型，度量感知器对于样本分类的置信度。

对数似然函数通常结合了激活函数和损失函数的定义，利用最大似然估计的思想来选择最优的参数。

准则函数的选择应根据具体问题的特点和需求进行合理选择。

对于连续预测变量的问题，均方误差函数和绝对误差函数常常是合适的选择；对于二分类或多分类问题，可以使用对数似然函数或零一损失函数来度量模型的性能。

综上所述，准则函数在感知器学习算法中起着重要作用，它对模型的训练和分类能力具有直接影响，准则函数的选择应根据具体问题的特点来
确定。

在实际应用中，我们可以根据数据集的特点和算法的要求选择合适的准则函数，以获得更好的模型性能。

实验一、基于感知函数准则线性分类器设计1.1 实验类型：设计型：线性分类器设计（感知函数准则）1.2 实验目的：本实验旨在让同学理解感知准则函数的原理，通过软件编程模拟线性分类器，理解感知函数准则的确定过程，掌握梯度下降算法求增广权向量，进一步深刻认识线性分类器。

1.3 实验条件：matlab 软件1.4 实验原理：感知准则函数是五十年代由Rosenblatt 提出的一种自学习判别函数生成方法，由于Rosenblatt 企图将其用于脑模型感知器，因此被称为感知准则函数。

其特点是随意确定的判别函数初始值，在对样本分类训练过程中逐步修正直至最终确定。

感知准则函数利用梯度下降算法求增广权向量的做法，可简单叙述为： 任意给定一向量初始值)1(a ，第k+1次迭代时的权向量)1(+k a 等于第k 次的权向量)(k a 加上被错分类的所有样本之和与k ρ的乘积。

可以证明，对于线性可分的样本集，经过有限次修正，一定可以找到一个解向量a ，即算法能在有限步内收敛。

其收敛速度的快慢取决于初始权向量)1(a 和系数k ρ。

1.5 实验内容已知有两个样本空间w1和w2，这些点对应的横纵坐标的分布情况是：x1=[1,2,4,1,5];y1=[2,1,-1,-3,-3];x2=[-2.5,-2.5,-1.5,-4,-5,-3];y2=[1,-1,5,1,-4,0];在二维空间样本分布图形如下所示：（plot(x1,y1,x2,y2)）-6-4-20246-6-4-2246w1w21.6 实验任务：1、 用matlab 完成感知准则函数确定程序的设计。

2、 请确定sample=[(0,-3),(1,3),(-1,5),(-1,1),(0.5,6),(-3,-1),(2,-1),(0,1),(1,1),(-0.5,-0.5),( 0.5,-0.5)];属于哪个样本空间,根据数据画出分类的结果。

3、 请分析一下k ρ和)1(a 对于感知函数准则确定的影响，并确定当k ρ=1/2/3时，相应的k 的值，以及)1(a 不同时，k 值得变化情况。

北华大学开放实验报告实验名称：实验一基于感知器的线性分类器设计所属课程：模式识别班级：信息10—1学号：36*名：**实验一、基于感知器算法的线性分类器设计一、实验目的：1. 熟悉感知器算法。

2. 掌握感知准则函数分类器设计方法。

3. 掌握感知器算法，利用它对输入的数据进行分类。

二、实验原理：感知机算法线性分类器的第一个迭代算法是1956年由Frank Rosenblatt提出的，即具有自学习能力的感知器（Perceptron）神经网络模型，用来模拟动物或者人脑的感知和学习能力。

这个算法被提出后，受到了很大的关注。

感知器在神经网络发展的历史上占据着特殊的位置：它是第一个从算法上完整描述的神经网络，是一种具有分层神经网络结构、神经元之间有自适应权相连接的神经网络的一个基本网络。

感知器的学习过程是不断改变权向量的输入，更新结构中的可变参数，最后实现在有限次迭代之后的收敛。

感知器的基本模型结构如图1所示：图1 感知器基本模型其中，X输入，Xi表示的是第i个输入；Y表示输出；W表示权向量；w0是阈值，f是一个阶跃函数。

感知器实现样本的线性分类主要过程是：特征向量的元素x1，x2，……，xk是网络的输入元素，每一个元素与相应的权wi相乘。

，乘积相加后再与阈值w0相加，结果通过f函数执行激活功能，f为系统的激活函数。

因为f是一个阶跃函数，故当自变量小于0时，f= -1；当自变量大于0时，f= 1。

这样，根据输出信号Y，把相应的特征向量分到为两类。

然而，权向量w 并不是一个已知的参数，故感知器算法很重要的一个步骤即是寻找一个合理的决策超平面。

故设这个超平面为w ，满足：12*0,*0,T Tw x x w x x ωω>∀∈<∀∈ （1）引入一个代价函数，定义为：()**T x x YJ w w xδ∈=∑ （2）其中，Y 是权向量w 定义的超平面错误分类的训练向量的子集。

变量x δ定义为：当1x ω∈时，x δ= -1；当2x ω∈时，x δ= +1。

实验一、基于感知函数准则线性分类器设计1.1 实验类型：设计型：线性分类器设计（感知函数准则）1.2 实验目的：本实验旨在让同学理解感知准则函数的原理，通过软件编程模拟线性分类器，理解感知函数准则的确定过程，掌握梯度下降算法求增广权向量，进一步深刻认识线性分类器。

1.3 实验条件：matlab 软件1.4 实验原理：感知准则函数是五十年代由Rosenblatt 提出的一种自学习判别函数生成方法，由于Rosenblatt 企图将其用于脑模型感知器，因此被称为感知准则函数。

其特点是随意确定的判别函数初始值，在对样本分类训练过程中逐步修正直至最终确定。

感知准则函数利用梯度下降算法求增广权向量的做法，可简单叙述为： 任意给定一向量初始值)1(a ，第k+1次迭代时的权向量)1(+k a 等于第k 次的权向量)(k a 加上被错分类的所有样本之和与k ρ的乘积。

可以证明，对于线性可分的样本集，经过有限次修正，一定可以找到一个解向量a ，即算法能在有限步内收敛。

其收敛速度的快慢取决于初始权向量)1(a 和系数k ρ。

1.5 实验内容已知有两个样本空间w1和w2，这些点对应的横纵坐标的分布情况是：x1=[1,2,4,1,5];y1=[2,1,-1,-3,-3];x2=[-2.5,-2.5,-1.5,-4,-5,-3];y2=[1,-1,5,1,-4,0];在二维空间样本分布图形如下所示：（plot(x1,y1,x2,y2)）-6-4-20246-6-4-2246w1w21.6 实验任务：1、 用matlab 完成感知准则函数确定程序的设计。

2、 请确定sample=[(0,-3),(1,3),(-1,5),(-1,1),(0.5,6),(-3,-1),(2,-1),(0,1),(1,1),(-0.5,-0.5),( 0.5,-0.5)];属于哪个样本空间,根据数据画出分类的结果。

3、 请分析一下k ρ和)1(a 对于感知函数准则确定的影响，并确定当k ρ=1/2/3时，相应的k 的值，以及)1(a 不同时，k 值得变化情况。

实验四、基于感知函数准则线性分类器设计4.1 实验类型：设计型：线性分类器设计（感知函数准则）4.2 实验目的：本实验旨在让同学理解感知准则函数的原理，通过软件编程模拟线性分类器，理解感知函数准则的确定过程，掌握梯度下降算法求增广权向量，进一步深刻认识线性分类器。

4.3 实验条件：matlab 软件4.4 实验原理：感知准则函数是五十年代由Rosenblatt 提出的一种自学习判别函数生成方法，由于Rosenblatt 企图将其用于脑模型感知器，因此被称为感知准则函数。

其特点是随意确定的判别函数初始值，在对样本分类训练过程中逐步修正直至最终确定。

感知准则函数利用梯度下降算法求增广权向量的做法，可简单叙述为： 任意给定一向量初始值)1(a ，第k+1次迭代时的权向量)1(+k a 等于第k 次的权向量)(k a 加上被错分类的所有样本之和与k ρ的乘积。

可以证明，对于线性可分的样本集，经过有限次修正，一定可以找到一个解向量a ，即算法能在有限步内收敛。

其收敛速度的快慢取决于初始权向量)1(a 和系数k ρ。

4.5 实验内容已知有两个样本空间w1和w2，这些点对应的横纵坐标的分布情况是：x1=[1,2,4,1,5];y1=[2,1,-1,-3,-3];x2=[-2.5,-2.5,-1.5,-4,-5,-3];y2=[1,-1,5,1,-4,0];在二维空间样本分布图形如下所示：（plot(x1,y1,x2,y2)）2 -6-4-20246-6-4-22464.6 实验任务：1、 用matlab 完成感知准则函数确定程序的设计。

2、 请确定sample=[(0,-3),(1,3),(-1,5),(-1,1),(0.5,6),(-3,-1),(2,-1),(0,1),(1,1),(-0.5,-0.5),( 0.5,-0.5)];属于哪个样本空间,根据数据画出分类的结果。

3、 请分析一下k ρ和)1(a 对于感知函数准则确定的影响，并确定当k ρ=1/2/3时，相应的k 的值，以及)1(a 不同时，k 值得变化情况。

一、实验背景感知器算法是一种简单的线性二分类模型，由Frank Rosenblatt于1957年提出。

它是一种基于误分类项进行学习，以调整权重来拟合数据集的算法。

感知器算法适用于线性可分的数据集，能够将数据集中的样本正确分类。

本次实验旨在通过编程实现感知器算法，并使用iris数据集进行验证。

通过实验，我们能够熟悉感知器算法的基本原理，了解其优缺点，并掌握其在实际应用中的使用方法。

二、实验目的1. 理解感知器算法的基本原理；2. 编程实现感知器算法；3. 使用iris数据集验证感知器算法的性能；4. 分析感知器算法的优缺点。

三、实验环境1. 操作系统：Windows 102. 编程语言：Python3. 机器学习库：Scipy、Numpy、Matplotlib、sklearn四、实验步骤1. 导入必要的库```pythonimport numpy as npimport matplotlib.pyplot as pltfrom sklearn import datasetsfrom sklearn.model_selection import train_test_split```2. 读取iris数据集```pythoniris = datasets.load_iris()X = iris.datay = iris.target```3. 将数据集划分为训练集和测试集```pythonX_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.2, random_state=42)```4. 编写感知器算法```pythondef perceptron(X, y, w, b, learning_rate):for i in range(len(X)):if np.dot(X[i], w) + b <= 0:w += learning_rate y[i] X[i]b += learning_rate y[i]return w, b```5. 训练感知器模型```pythonlearning_rate = 0.1max_iter = 100w = np.zeros(X.shape[1])b = 0for _ in range(max_iter):w, b = perceptron(X_train, y_train, w, b, learning_rate)```6. 评估感知器模型```pythondef predict(X, w, b):return np.sign(np.dot(X, w) + b)y_pred = predict(X_test, w, b)accuracy = np.mean(y_pred == y_test)print("感知器算法的准确率：", accuracy)```7. 可视化感知器模型```pythondef plot_decision_boundary(X, y, w, b):plt.figure(figsize=(8, 6))plt.scatter(X[:, 0], X[:, 1], c=y, cmap=plt.cm.Paired,edgecolors='k', marker='o')x_min, x_max = X[:, 0].min() - 1, X[:, 0].max() + 1y_min, y_max = X[:, 1].min() - 1, X[:, 1].max() + 1xx, yy = np.meshgrid(np.arange(x_min, x_max, 0.1), np.arange(y_min, y_max, 0.1))Z = np.dot(np.c_[xx.ravel(), yy.ravel()], w) + bZ = Z.reshape(xx.shape)plt.contourf(xx, yy, Z, alpha=0.4)plt.xlabel("Sepal length (cm)")plt.ylabel("Sepal width (cm)")plt.title("Perceptron Decision Boundary")plt.show()plot_decision_boundary(X_train, y_train, w, b)```五、实验结果与分析1. 感知器算法的准确率为约0.9，说明感知器算法在iris数据集上表现良好。

《模式识别》课程实验线性分类器设计实验一、实验目的：1、掌握Fisher 线性分类器设计方法；2、掌握感知准则函数分类器设计方法。

二、实验内容：1、对下列两种情况，求采用Fisher 判决准则时的投影向量和分类界面，并做图。

12{(2,0),(2,2),(2,4),(3,3)}{(0,3),(2,2),(1,1),(1,2),(3,1)}T T T T T T T T T ωω⎧=⎪⎨=-----⎪⎩ 12{(1,1),(2,0),(2,1),(0,2),(1,3)}{(1,2),(0,0),(1,0),(1,1),(0,2)}T T T T T T T T T T ωω⎧=⎪⎨=-----⎪⎩ 2、对下面的两类分类问题，采用感知准则函数，利用迭代修正求权向量的方法求两类的线性判决函数及线性识别界面，并画出识别界面将训练样本区分的结果图。

12{(1,1),(2,0),(2,1),(0,2),(1,3)}{(1,2),(0,0),(1,0),(1,1),(0,2)}T T T T T T T T T T ωω⎧=⎪⎨=-----⎪⎩ 三、实验原理：（1）Fisher 判决准则投影方向：*112()w w S μμ-=-（2）感知准则函数：()()kT p z Z J v v z ==-∑当k Z为空时，即()0J v ，*v即为所求p四、解题思路:1、fisher线性判决器：A.用mean函数求两类样本的均值B.求两类样本的均值的类内离散矩阵SiC.利用类内离散矩阵求总类内离散矩阵SwD.求最佳投影方向WoE.定义阈值，并求得分界面2、感知准则函数分类器：A.获得增广样本向量和初始增广权向量B.对样本进行规范化处理C.获得解区，并用权向量迭代修正错分样本集，得到最终解区五、实验结果：1、fisher线性判决分类器：条件：取pw1=pw2=0.5,阈值系数为0.5A．第一种情况B.第二种情况2、感知准则函数判决：条件：取步长row为1判决结果：六、结果分析：1、fisher线性判决器中，调整阈值系数时，分界面会随之平行上下移动，通过调整阈值系数的大小，就能比较合理的得到分界面。