当前位置:文档之家› RBF神经网络模式识别

RBF神经网络模式识别

RBF神经网络模式识别
RBF神经网络模式识别

动态RBF神经网络模式识别

12721211,秦自杰

2013-03-01

摘要:本文讨论了神经网络模式识别的特点,研究了一种RBF神经网络在模式识别中的训练方法。对RBF神经网络的训练采用一种区域映射的方式,并由此使用区域映射误差函数,同时结合RAN新性条件进行网络节点的动态调整。不但加快了网络的训练过程,而且获得较小的网络结构,提高了网络的泛化性能和正确率。

关键词:径向基函数;分类;区域映射;动态;模式识别

A Dynamic RBF Neural Network for Pattern Recognition

Abstract:The characteristics of neural network for pattern recognition are discussed in this paper. The problem of training RBF neural network for pattern recognition is considered. In this paper, a new training algorithm based on the regional mapping and novelty condition of RAN is proposed. The result show the effectiveness of the proposed approach in RBF network training for pattern recognition, mainly in shortening the learning time, simplifying the structure of network and improving the classification accuracy.

Keywords: RBF; classification; regional mapping; dynamic; Pattern Recognition

1 引言

模式识别的任务是把模式正确地从特征空间映射到类空间,或者说是在特征空间中实现类的划分。目前进行模式识别比较主流的技术方法有,统计模式识别,句法模式识别,模糊模式识别,逻辑推理模式识别和神经网络模式识别等。针对不同的对象和目的,可以采用不同的模式识别理论、方法。

在数据样本分类领域,由于所要处理问题中模式样本越来越复杂,对分类器的设计提出了更高的要求,而神经网络不但有并行和容错等特点,还具有自适应能力,不但能自适应地学习,有的网络还能自适应的调整网络结构。在模式识别领域已经表现出巨大的优势和潜力[8、9]。神经网络模式识别已经发展成为模式识别领域的一种重要方法,发挥着传统模式识别方法不可替代的作用。使用神经网络进行模式识别的方法就是根据样本的特征向量进行匹配,建立网络模型,将其分类到正确的样本空间内。神经网络可以实现的功能为特征提取和统计分类两个部分,其中RBF神经网络因为其良好的分类性能得到越来越多的应用。

本文针对RBF网络在模式识别中的特性,通过改进的误差函数使网络具有区域映射的功能,同时在网络训练初始阶段使用输入输出样本聚类方法决定初始隐层节点,并通过RAN网络[12,13]“新性”条件添加和调整网络参数,建立一个精简的网络结构来完成模式识别的功能。

2 神经网络模式识别的特点

⑴神经网络具有自组织和自学习能力,能够直接输入数据并进行学习。它神经网络对所要处理的对象在样本空间的分布状态无需做任何假设,而是直接从数据中学习样本之间的关系,因而还能

解决不知道样本分布而无法解决的识别问题。

⑵ 神经网络具有推广能力。它可以根据样本的相似性,对那些与原始训练样本相似的数据进行正确处理。

⑶ 神经网络是非线性的。它可以系统输入变量之间复杂的相互作用。在线性系统中,改变输入往往产生一个成比例的输出。但是在非线性系统中这种影响变成了高阶函数,这一特点很适合实时系统。神经网络则为这种复杂系统提供了一种实用的解决途径。

⑷ 神经网络是高度并行的,即大量相似或独立的运算可以同时进行。这种并行能力使它在处理问题时比传统的微处理器更快,这就为提高系统的处理速度,并为实时处理提供了必要的条件。

⑸ 对信息采用分布式记忆,具有鲁棒性。

3 动态RBF 神经网络模型与算法

3.1 RBF 网络结构描述

RBF 网络共分为3层,如图1所示。第一层为输入层,中间层为隐层,最后一层为输出层。可以看出网络从输入到输出的映射为

1

()(,)m

i i i f x w x c φ==

(1)

式中:12(,)T

n

n x x x x R =∈ 为输入矢量, 12W T m

m R =

∈ (w ,w w )为输出权值矩阵,()f ?为输出矢量,(,)φ??为径向基函数,i c 为径向基函数的第i 个聚类心。

径向基函数采取常用的高斯函数,即

2

2

(,)=exp i

i x c x c φσ??-- ? ??

?

(2)

RBF 网络设计的核心问题是确定隐层节点的数目及相应的中心节点位置和宽度。当RBF 网络的隐层节点数和中心节点及宽度确定后,RBF 网络从输入到输出就形成了一个线性方程组,此时输出权矢量可用最小二乘法获得。

()

x x x x 图1 RBF 网络结构图

3.2 RBF 网络误差函数选取

使用神经网络进行模式识别,通常是寻找一个网络将输入的样本成功辨识以正确分类到对应的类别中去。如果采用有监督训练的方式,误差函数在网络的训练过程中可以改变训练速度和逼近效果,从而影响训练结果,因此网络误差函数的选取也成了神经网络在模式识别领域研究的一个方面。

假设在训练过程中网络的样本数为N ,输出维数为L ,当网络输入为(1,,)

i

x i N == 时,网络的

第j 个输出节点的期望输出为(1,,j 1,,L)

ij

d i N === ;,实际输出为()j

i f

x 。

通常人们选用的误差函数为最小方差误差函数:

2

1

1

1

(())

2

N L

m sc ij

j i i j E d f x ===

-∑∑ (3)

但是在模式识别中如果网络训练到只有小部分样本还未被正确分类时,由于已正确分类样本中有的误差之和可能大于误分类样本的误差,根据该误差函数进行参数调整后得到的网络的分类效果可能不会有大的改善。

为避免上述缺点,Lampariello 将网络输出给定界限τ (一般取=0τ),且样本所属的类别分别为大于或小于界限值,从而设定误差函数为界限误差函数,如式(4)所示

{}(

)

{}(

)

te m ax 0,()m ax 0,()i i q

q

j i j i x x E f x f x εε∈∈=

-+

+∑∑(,1)TS (,0)TS

(4)

式中:q 为给定的大于或等于2的整数,ε是一个任意小的数,以保证网络的输出大于或者小于分界值。可以看出当其正确分类时误差为零,误分类时误差为到分界值的距离。由于该误差函数只考虑误分类样本的作用,加快了网络的训练时间.但是在多个类别分类时,各个样本类别的界限选取就会有一定的难度。

在文献[10]中则使用了如下误差函数作为网络的评价函数:

2

2

1

1

1

()()2

2

t

N

p p

p p p p p t k E d

y d y ==+=

-+

-∑∑

(5)

式中p= 1,2,…,N ,表示异常点样本的个数,通过该误差函数降低了异常点误差,从而更好地模拟了真实的函数关系,提高了网络的效果.但是在实际应用中p 的选取往往很难,这就影响了该误差函数的应用。

综上可知:改变误差函数可以加快参数的调整,从而使网络具有更好的性能。

在模式识别时可以根据区域映射理论[13]将样本的所属类别设定为一个空间,从而将输入空间中的一点映射到一个输出空间,因此本文使用如下方式确定一个新的误差函数使其充分考虑误分类样本的性能来加快网络的识别过程.

假设网络具有多个输出节点,将样本类别划分成单独的类别空间后,如果对于某个样本i x 的每一个输出节点j 都满足:

()+ij j i ij d f x d ττ-≤≤ (6)

则样本i x 已经正确地映射到对应的类别中去,此样本已满足模式识别条件进行了成功的识别。

因此样本单个节点的误差为

2

2

0;()+1(()+);()21(()+);()+2

ij j i ij ij j i ij j i ij j i ij j i ij d f x d E f x d f x d f x d f x d ττττττ?

-≤≤???=-<-???-

从而得到网络的误差函数为

2

2

1

1

()()11

0(())(())2

2j i ij j i ij N

N

rme ij

j i ij j i ij i i f x d f x d E E

f x d f x d τ

τ

ττ==<->+??

=

=

+-++

--?????

?

∑∑

(8) 称为区域映射误差函数,从上式可看出,该误差函数主要有以下几个特点: (1)rem E 的值为非负。

(2) 当网络能够完全正确分类时网络的误差=0rem E 。

(3)

rem

E 连续可导。

由特点(1)、(2)可以看出,网络参数调整的过程也就是寻找误差函数的全局最小的过程。而且误差函数只和误分类样本有关,因此依据该函数进行参数调整考虑的只是误分类样本的作用,从而可以更快地完成网络的训练过程。 3.3 中心节点的选取和调整

在本文使用的算法中节点的选取包括初始节点的选取和训练过程添加节点的选取两个方面。网络初始节点的选取考虑样本的输入输出,根据样本的类别,对各个类别样本使用均值聚类方法确定初始中心。网络在训练过程中节点的添加条件采用RAN 网络的“新性”条件。在训练过程中选取当前具有最大误差的样本,并将其与“新性”条件相比较,如果该样本满足这两个条件则分配新的节点,新节点中心就为该样本,而中心的宽度一般取与该样本输入最近的中心节点之间的距离。如果在训练过程中不满足节点添加条件则需通过对网络的

中心节点位置的调整来减小误差,中心节点调整是用梯度法来完成的.调整中心时考虑到样本的局部特性,以该数据中心周围的部分样本为目标样本,假设某隐层节点的中心为m c ,宽度为m r ,则参与调节的样本为

{}(,),1,2,m i i i m m A x y x c kr i N

=-<= (9)

式中:k 为重叠系数,k 值越大,参与调节中心的样本就越多。

根据梯度下降法,假定(,)i i m x y A ∈为一个参与调节的样本,网络对该样本的输出为()i f x ,可以得出该样本对此中心节点的调节量为

()()()(),2(())(()+)j i ij j i ij m i i i m m mj ij j i ij j i f x d f x d m c x y x c w d f x d f x r ττη

φττ<->+??

?=-?--+-??????

∑∑ (10)

式中:mj w 为该节点前一调节时刻的输出权值;η为学习率。

于是,第m 个隐层节点的调节公式为

()

(),+

,i i m

m m m i i x y A c c c x y ∈←?∑

(11)

3.4 中心节点的选取和调整

在网络的训练过程中权值可以通过最小二乘法来计算得到。设有N 个样本,当前隐层数为M ,计算第一隐层输出矩阵P

121(,,)

((1),(2,())()(,)

M T

i i i i n

i i P P P P P P P P N P n x c φ=== (12)

式中:1,2,,;1,2,,i M n N == 。

则实际输出样本为

()()

12L 1

2

()=()()()()=()

()

()T

N

i i i i f x f x f x f x f x f x f x f x

; (13)

输出权值矩阵为

()

()

1112121

2221

12

1

L M M M L T

T

w w w w w w W w w w W P P P f x -??

???

?

=??????

=??

(14)

()y x 为网络学习输出,有

()=P y x W ? (15) 3.5 冗余节点的删除

由于在添加节点的过程中只考虑到样本的最大误差特性,这样通过添加节点的过程可能引入冗余节点。但是这类节点在网络的不断调整过程中权值会不断衰减,所以在实际训练过程中,对于多输出的RBF 神经网络,当某隐层节点m 的输出权值满足

m in 1

L

m i i w w =≤∑ (16)

则删除该节点,式中min w 为临界权值。 3.6 算法实现

综上所述,本文提出的这种RBF 网络的训练算法具体实现步骤如下: (1)根据样本情况,决定初始网络节点数并初始化网络中心节点和宽度。 (2)根据式(12)计算RBF 网络隐层输出值。

(3)根据式(14)计算网络权值,根据式(15)计算输出,然后根据式(7)和(8)计算网络的区域映射误差rem E 。

(4)如果rem E 达到给定值或者训练达到给定次数,则训练结束,否则转向步骤(5)。

(5)判断是否具备添加隐层节点条件,具备则添加隐层节点,转向步骤(7);否则转向步骤(6)。 (6)根据式(9)计算参与调节的样本,然后根据式(10)和(11)计算调节量,调整隐层节点,转向步骤(7)。

(7)根据式(16)判断权值,对当前隐层节点进行剪枝,转向步骤(2),继续调整。 4 结语

神经网络模式识别打破了传统模式识别技术的束缚,开辟了模式识别发展的新途径,同时,神经网络模式识别也成为模式识别最成功和最有前途的技术之一。本文对区域映射动态RBF 神经网络在模式识别中的应用进行了研究,提出了改进的误差函数和网络的动态训练方法。可以得出以下结论:区域映射动态RBF 神经网络算法可以有效地建立RBF 神经网络模型,并且可以提高分类精度,有利于RBF 网络在模式识别中的应用。 参考文献:

[1] 卫敏,余乐安. 具有最优学习率的RBF 神经网络及其应用[J]. 管理科学学报,2012,(04):54-61

[2] 张德丰,周灵,孙亚民. 基于动态径向基神经网络的人脸识别算法研究[J]. 计算机工程应用,2012,(02):207-210 [3] 黄宏涛. 一种基于Gaussian 函数的双向选择径向基函数神经网络算法[J]. 计算机科学, 2007,(07) :215-217 [4] 葛超,孙丽英,张淑卿,朱艺. RBF 神经网络中心选取算法[J]. 河北理工大学学报,2007,(04) :101-103

[5] 魏海坤,李琦,宋文忠.梯度算法下 RBF 网的参数变化动态[J].控制理论和应用,2007.6(vol.24 No.3):356–361. [6] 陈德军,胡华成,周祖德.基于径向基函数的混合神经网络模型研究[J].武汉理工大学学报,2007.2(V ol.29 No.2 ):122–

126

[7] 赵志刚,缪凯,吕慧显. RBF神经网络的混合结构优化算法[J].仪器仪表学报,2007.4(V ol.28 No.4):650–656

[8] 韩立群.人工神经网络教[M]. 北京. 北京邮电大学出版社,2006

[9] 宋宜斌, 王培进. 一种改进的RBF神经网络预测模型[A]. 2005年中国智能自动化会议论文集, 2005

[10]Theodoridis S,Koutroumbas K.模式识别[M].2版.北京: 电子工业出版社,2004

[11]叶少珍,张钹,吴鸣锐,等.一种基于神经网络覆盖构造法的模糊分类器[J].软件学报,2003,14(3):429-43

[12]陶品,张钹,叶榛.构造型神经网络双交叉覆盖增量学习算法[J].软件学报,2003,14(2):194-201

[13]姜立芳,刘泊,施莲辉.一种改进的BP算法及其在模式识别中的应用[J].哈尔滨理工大学学报,2003,8(3):90-93

[14]金聪.含噪声前馈神经网络误差函数的理论分析[J].计算机研究与发展,2002,39(12): 213-216

[15] JIANPING D, SUNDARARAJAN N,SARATCHANDRAN P. Nonlinear magnetic storage

channel equalization using minimal resourceallocation network (MRAN) [J].IEEE Trans on Neural Networks, 2001,12(1): 171-174

[16] ERFANIAN A, GERIVANY M. EEG signals canbe used to detect the voluntary hand movements byusing an enhanced resource-allocating neural network [C]∥Proceedings of the 23rd Annual International Conference on the IEEE Engineering in Medicine and Biology Society. Istanbul: [s n],2001: 721-724

[17]王雪峰,孙学全,冯英浚.用于模式识别的前馈式神经网络区域映射模型[J].哈尔滨工业大学学报,2000,32(5):73-75

神经网络模式识别Matlab程序

神经网络模式识别Matlab程序识别加入20%噪声的A-Z26个字母。(20%噪声情况下,完全能够识别)clear;close all; clc; [alphabet,targets]=prprob; [R,Q]=size(alphabet); [S2,Q]=size(targets); S1=10; P=alphabet; net=newff(minmax(P),[S1,S2],{'logsig''logsig'},'traingdx'); net.LW{2,1}=net.LW{2,1}*0.01; net.b{2}=net.b{2}*0.01; T=targets; net.performFcn='sse'; net.trainParam.goal=0.1; net.trainParam.show=20; net.trainParam.epochs=5000; net.trainParam.mc=0.95; [net,tr]=train(net,P,T); netn=net; netn.trainParam.goal=0.6; netn.trainParam.epochs=300; T=[targets targets targets targets]; for pass=1:10; P=[alphabet,alphabet,... (alphabet+randn(R,Q)*0.1),... (alphabet+randn(R,Q)*0.2)]; [netn,tr]=train(netn,P,T); end netn.trainParam.goal=0.1; netn.trainParam.epochs=500; netn.trainParam.show=5; P=alphabet; T=targets; [netn,tr]=train(netn,P,T); noise_percent=0.2; for k=1:26 noisyChar=alphabet(:,k)+randn(35,1)*noise_percent; subplot(6,9,k+floor(k/9.5)*9); plotchar(noisyChar); de_noisyChar=sim(net,noisyChar); de_noisyChar=compet(de_noisyChar);

人工神经网络模式识别

人工神经网络模式识别 一、人工神经网络模式识别 1、人工神经网络的概述 人工神经网络从人脑的生理学和心理学角度出发,通过模拟人脑的工作机理,实现机器的部分智能行为,是从微观结构和功能上对人脑进行抽象和简化,是模拟人类智能的一条重要途径。具体的模式识别是多种多样的,如果从识别的基本方法上划分,传统的模式识别大体分为统计模式识别和句法模式识别,在识别系统中引入神经网络是一种近年来发展起来的新的模式识别方法。尽管引入神经网络的方法和引入网络的结构可以各不相同,但都可称为神经网络模式识别。而且这些识别方法在解决传统方法较难处理的某些问题上带来了新的进展和突破,因而得到了人们越来越多的重视和研究。 人工神经元网络(Artificial Neural Network)简称神经网络,是基于日前人们对自然神经系统的认识而提出的一些神经系统的模型,一般是由一系列被称为神经元的具有某种简单计算功能的节点经过广泛连接构成的一定网络结构,而其网络连接的权值根据某种学习规则在外界输入的作用下不断调节,最后使网络具有某种期望的输出特性。神经网络的这种可以根据输入样本学习的功能使得它非常适合于用来解决模式识别问题,这也是神经网络目前最成功的应用领域之一。 2、神经网络进行模式识别的方法和步骤 神经网络模式识别的基本方法是,首先用己知样本训练神经网络,使之对不同类别的己知样本给出所希望的不同输出,然后用该网络识别未知的样本,根据各样本所对应的网络输出情况来划分未知样本的类别。神经网络进行模式识别的一般步骤如图2-1所示,分为如下几个部分: 预处理 样本获取常规处理特征变换神经网络识别 图 2-1 神经网络模式识别基本构成 1、样本获取 这一步骤主要是为了得到一定数量的用于训练和识别的样本。

模式识别在神经网络中的研究

摘要:基于视觉理论的神经网络模式识别理论的研究一直是非常活跃的学科,被认为是神经网络应用最成功的一个方面,它的发展与神经网络理论可以说是同步的。几乎所有现有的神经网络物理模型都在模式识别领域得到了成功的应用,神经网络理论取得进步会给模式识别理论的发展带来鼓舞;相反,模式识别理论的进步又会大大推动神经网络理论的长足发展。它们的关系是相互渗透的。 关键词:神经网络;模式识别 Abstract: The research of pattern recognition theories according to the neural network mode of sense of vision theories has been very active in academics, neural network has been thought one of the most successful applications , its development can been seen as the same step with the neural network theories.Almost all existing physics model of the neural network all identified realm to get success in the mode of application, neural network theories' progress will give the development of the pattern recognition theories much encourage;Contrary, the pattern recognition theories of progress again consumedly push neural network theories of substantial development.Their relations permeate mutually. Key word: neural network; pattern recognition

7基于神经网络的模式识别实验要求

实验七基于神经网络的模式识别实验 一、实验目的 理解BP神经网络和离散Hopfield神经网络的结构和原理,掌握反向传播学习算法对神经元的训练过程,了解反向传播公式。通过构建BP网络和离散Hopfield 网络模式识别实例,熟悉前馈网络和反馈网络的原理及结构。 二、实验原理 BP学习算法是通过反向学习过程使误差最小,其算法过程从输出节点开始,反向地向第一隐含层(即最接近输入层的隐含层)传播由总误差引起的权值修正。BP网络不仅含有输入节点和输出节点,而且含有一层或多层隐(层)节点。输入信号先向前传递到隐节点,经过作用后,再把隐节点的输出信息传递到输出节点,最后给出输出结果。 离散Hopfield神经网络的联想记忆过程分为学习和联想两个阶段。在给定样本的条件下,按照Hebb学习规则调整连接权值,使得存储的样本成为网络的稳定状态,这就是学习阶段。联想是指在连接权值不变的情况下,输入部分不全或者受了干扰的信息,最终网络输出某个稳定状态。 三、实验条件 Matlab 7.X 的神经网络工具箱:在Matlab 7.X 的命令窗口输入nntool,然后在键盘上输入Enter键,即可打开神经网络工具箱。 四、实验内容 1.针对教材P243例8.1,设计一个BP网络结构模型(63-6-9),并以教材图8.5 为训练样本数据,图8.6为测试数据。 (1)运行train_data.m和test_data.m文件,然后从Matlab工作空间导入(Import)训练样本数据(inputdata10,outputdata10)和测试数据(testinputdata,testoutputdata),其次新建一个神经网络(New Network),选择参数如下表1,给出BP神经网络结构图。

基于神经网络模型的最新系统辨识算法

基于神经网络模型的最新系统辨识算法 摘要:神经网络具有大规模并行分布式结构、自主学习以及泛化能力,因此可以利用神经网络来解决许多传统方法无法解决的问题。神经网络应用在非线性系统的辨识中有良好的结果。本文在阅读大量参考文献的基础上,对最新的基于神经网络的系统辨识算法进行总结。 关键字:神经网络;系统辨识;辨识算法 The latest algorithm about identification system based on neural network model Abstract: Neural network has large parallel distributed structure, learning by itself and has generalization ability. So neural network is used to solve many questions which traditional method cannot. Neural network is well applied to nonlinear system which has got good achievements in identification system. Based on most of documents, the paper summaries the latest algorithm about identification system based on neural network model. Keywords:Neural network, identification system, identification algorithm 0 前言 在国内,系统辨识也取得了许多成绩,尽管成果丰硕,但传统辨识法仍存在不少局限:传统辨识法较适用于输入端中扰动水平比较低的控制系统,对于具有外界干扰的控制系统,就会出现计算量大、鲁棒性不够好的问题;最小二乘法及其相关改进算法一般利用梯度算法进行信息搜索,容易陷入局部极小值。鉴于此,神经网络控制在系统辨识中得到了新的应用。本文在阅读大量文献后,针对国内基于神经网络的结合其他算法的最新辨识算法进行综述分析。 1 神经网络的应用优势 神经网络的吸引力在于:能够充分逼近任意复杂的非线性关系,能够学习适应不确定性系统的动态特性;所有定量或定性的信息都分布储存于网络内的各个神经元,所以有很强的鲁棒性和容错性;采用并行分

实验七:基于神经网络的模式识别实验

实验七:基于神经网络的模式识别实验 一、实验目的 理解BP神经网络和离散Hopfield神经网络的结构和原理,掌握反向传播学习算法对神经元的训练过程,了解反向传播公式。通过构建BP网络和离散Hopfield网络模式识别实例,熟悉前馈网络和反馈网络的原理及结构。 综合掌握模式识别的原理,了解识别过程的程序设计方法。 二、实验内容 熟悉模式识别的理论方法,用选择一种合适的识别方法,对图像中的字符(英文字母)进行识别,能够区分出不同的形态的26个字母。 在Matlab中,采用BP神经网络,对读取的数据进行训练,进而识别。 1. 程序设计 (1)程序各流程图 实验中主程序流程图如图4-1所示:

图4-1主程序流程图 其中图像预处理的流程如图4-2 所示: 图4-2图像预处理的流程神经网络训练的具体流程如图4-3所示:

图4-3 神经网络训练流程 (2)程序清单 %形成用户界面 clear all; %添加图形窗口 H=figure('Color',[0.85 0.85 0.85],... 'position',[400 300 500 400],... 'Name','基于BP神经网络的英文字母识别',... 'NumberTitle','off',... 'MenuBar','none'); %画坐标轴对象,显示原始图像 h0=axes('position',[0.1 0.6 0.3 0.3]); %添加图像打开按钮 h1=uicontrol(H,'Style','push',... 'Position',[40 100 80 60],... 'String','选择图片',... 'FontSize',10,... 'Call','op'); %画坐标轴对象,显示经过预处理之后的图像 h2=axes('position',[0.5 0.6 0.3 0.3]); %添加预处理按钮

神经网络的应用及其发展

神经网络的应用及其发展

神经网络的应用及其发展 来源:辽宁工程技术大学作者: 苗爱冬 [摘要] 该文介绍了神经网络的发展、优点及其应用和发展动向,着重论述了神经网络目前的几个研究热点,即神经网络与遗传算法、灰色系统、专家系统、模糊控制、小波分析的结合。 [关键词]遗传算法灰色系统专家系统模糊控制小波分析 一、前言 神经网络最早的研究20世纪40年代心理学家Mcculloch和数学家Pitts 合作提出的,他们提出的MP模型拉开了神经网络研究的序幕。神经网络的发展大致经过三个阶段:1947~1969年为初期,在这期间科学家们提出了许多神经元模型和学习规则,如MP模型、HEBB学习规则和感知器等;1970~1986年为过渡期,这个期间神经网络研究经过了一个低潮,继续发展。在此期间,科学家们做了大量的工作,如Hopfield教授对网络引入能量函数的概念,给出了网络的稳定性判据,提出了用于联想记忆和优化计算的途径。1984年,Hiton教授提出Boltzman机模型。1986年Kumelhart等人提出误差反向传播神经网络,简称BP网络。目前,BP网络已成为广泛使用的网络;1987年至今为发展期,在此期间,神经网络受到国际重视,各个国家都展开研究,形成神经网络发展的另一个高潮。神经网络具有以下优点: (1) 具有很强的鲁棒性和容错性,因为信息是分布贮于网络内的神经元中。 (2) 并行处理方法,使得计算快速。 (3) 自学习、自组织、自适应性,使得网络可以处理不确定或不知道的系统。 (4) 可以充分逼近任意复杂的非线性关系。 (5) 具有很强的信息综合能力,能同时处理定量和定性的信息,能很好地协调多种输入信息关系,适用于多信息融合和多媒体技术。 二、神经网络应用现状 神经网络以其独特的结构和处理信息的方法,在许多实际应用领域中取得了显著的成效,主要应用如下: (1) 图像处理。对图像进行边缘监测、图像分割、图像压缩和图像恢复。 (2) 信号处理。能分别对通讯、语音、心电和脑电信号进行处理分类;可用于海底声纳信号的检测与分类,在反潜、扫雷等方面得到应用。 (3) 模式识别。已成功应用于手写字符、汽车牌照、指纹和声音识别,还可用于目标的自动识别和定位、机器人传感器的图像识别以及地震信号的鉴别

神经网络系统辨识综述

神经网络系统辨识综述 目前,国内外有许多利用神经网络来模拟设备性能、预测负荷的成功例子。1993 年,美国的Mistry和Nair成功开发了一个用来决定预期平均满意率(PMV)和温湿度参数的神经网络模型。1994 年,Curtiss利用神经网络模型成功地模拟了一台往复压缩式的冷水机组和其它暖通空调设备的性能。随后,Darred和Curtiss利用神经网络模型成功地预测了冷水机组的冷负荷和耗电量。在国内,也有利用神经网络对暖通空调优化控制、对空调器进行仿真研究的成功例子。神经网络之所以能够在国内外得到如此广泛的应用是因为: a)神经网络具有模拟高度非线性系统的优点; b)神经网络具有较强的学习能力、容错能力和联想能力; c)神经网络具有较强的自适应能力。 例如可通过重新训练网络进行设备特性的动态校准功能,这也是它优于其它控制方法的主要特点。此外,神经网络模型还具有建模时间短、易于进行计算机模拟的优点。对于智能建筑,其热动力学参数模型本质上为分布参数系统,应用系统辨识也很难获得其精确的数学模型,控制效果可想而知,而人工神经网络允许在模型理论不完善的情况下,构成一种具有自学习、自适应的体系结构,在与外界信息的交互作用中,形成一种非线性映射或线性动力学系统,以正确反映输入和输出关系而不必预先知道这种关系的精确数学模型。 神经网络在线性系统辨识中的应用 自适应线性(Adaline-Mada Line)神经网络作为神经网络的初期模型与感知机模型相对应,是以连续线性模拟量为输入模式,在拓扑结构上与感知机网络十分相似的一种连续时间型线性神经网络。这种网络模型是美国学者Widrow和Hoff

卷积神经网络

卷积神经网络 摘要:卷积神经网络是近年来广泛应用于模式识别、图像处理等领域的一种高效识别算法,它具有结构简单、训练参数少和适应性强等特点。本文从卷积神经网络的发展历史开始,详细阐述了卷积神经网络的网络结构、神经元模型和训练算法。在此基础上以卷积神经网络在人脸检测和形状识别方面的应用为例,简单介绍了卷积神经网络在工程上的应用,并给出了设计思路和网络结构。 关键字:模型;结构;训练算法;人脸检测;形状识别 0 引言 卷积神经网络是人工神经网络的一种已成为当前语音分析和图像识别领域的研究热点,它的权值共享网络结构使之更类似于生物神经网络,降低了网络模型的复杂度,减少了权值的数量。该优点在网络的输入是多维图像时表现的更为明显,使图像可以直接作为网络的输入,避免了传统识别算法中复杂的特征提取和数据重建过程。卷积网络是为识别二维形状而特殊设计的一个多层感知器,这种网络结构对平移、比例缩放、倾斜或者共他形式的变形具有高度不变性。 1 卷积神经网络的发展历史 1962年Hubel和Wiesel通过对猫视觉皮层细胞的研究,提出了感受野(receptive field)的概念,1984年日本学者Fukushima基于感受野概念提出的神经认知机(neocognitron)可以看作是卷积神经网络的第一个实现网络,也是感受野概念在人工神经网络领域的首次应用。神经认知机将一个视觉模式分解成许多子模式(特征),然后进入分层递阶式相连的特征平面进行处理,它试图将视觉系统模型化,使其能够在即使物体有位移或轻微变形的时候,也能完成识别。神经认知机能够利用位移恒定能力从激励模式中学习,并且可识别这些模式的变化形,在其后的应用研究中,Fukushima将神经认知机主要用于手写数字的识别。随后,国内外的研究人员提出多种卷积神经网络形式,在邮政编码识别和人脸识别方面得到了大规模的应用。 通常神经认知机包含两类神经元,即承担特征抽取的S-元和抗变形的C-元。S-元中涉及两个重要参数,即感受野与阈值参数,前者确定输入连接的数目,后者则控制对特征子模式的反应程度。许多学者一直致力于提高神经认知机的性能的研究:在传统的神经认知机中,每个S-元的感光区中由C-元带来的视觉模糊量呈正态分布。如果感光区的边缘所产生的模糊效果要比中央来得大,S-元将会接受这种非正态模糊所导致的更大的变形容忍性。我们希望得到的是,训练模式与变形刺激模式在感受野的边缘与其中心所产生的效果之间的差异变得越来越大。为了有效地形成这种非正态模糊,Fukushima提出了带双C-元层的改进型神经认知机。 Trotin 等人提出了动态构造神经认知机并自动降低闭值的方法[1],初始态的神经认知机各层的神经元数目设为零,然后会对于给定的应用找到合适的网络规模。在构造网络过程中,利用一个反馈信号来预测降低阈值的效果,再基于这种预测来调节阈值。他们指出这种自动阈值调节后的识别率与手工设置阈值的识别率相若,然而,上述反馈信号的具体机制并未给出,并且在他们后来的研究中承认这种自动阈值调节是很困难的【8】。 Hildebrandt将神经认知机看作是一种线性相关分类器,也通过修改阈值以使神经认知机成为最优的分类器。Lovell应用Hildebrandt的训练方法却没有成功。对此,Hildebrandt解释的是,该方法只能应用于输出层,而不能应用于网络的每一层。事实上,Hildebrandt没有考虑信息在网络传播中会逐层丢失。 Van Ooyen和Niehuis为提高神经认知机的区别能力引入了一个新的参数。事实上,该参数作为一种抑制信号,抑制了神经元对重复激励特征的激励。多数神经网络在权值中记忆训练信息。根据Hebb学习规则,某种特征训练的次数越多,在以后的识别过程中就越容易

模式识别 神经网络识别MATLAB实现

模糊神经网络模式识别 function retstr = FnnTrain(dt,ld,tt,sp) retstr=-1; %%%% 输入参数赋值开始%%%%%%%%%%%%%%%%%%%%%%% % 方便调试程序用,程序调试时去掉这部分的注释 % dt=4; %学习阈值 % ld=0.05; %学习进度 % tt=10; %训练次数 % sp='data\sample.txt'; %一个点的监测数据 %%%% 输入参数赋值结束%%%%%%%%%%%%%%%%%%%%%%%% global recordDimention; global sampleNumber; global weightNumber; global distanceThread; global WW; global learningDegree; global epochsNumber; distanceThread=dt; learningDegree=ld; traintimes=tt; A=load(sp); [Arow Acol]=size(A); %样本个数 sampleNumber=Arow; recordDimention=Acol; disp(sampleNumber); WW=A(1,:); WW=[WW [1]]; weightNumber=1; epochsNumber=1; for jj=2:1:sampleNumber TrainNN2(A(jj,:)); end for jt=1:traintimes-1 for jt2=1:sampleNumber TrainNN2(A(jj,:)); end end % 将训练结果写入权值文件 dlmwrite('data\w.dat',WW,'\t'); % % 训练子函数

神经网络辨识pi参数

作业三:已知某控制系统 要求:用经验公式优化PI参数,设计神经网络,模拟闭环系统响应。 1、源程序 clear all; close all; ts=1; sys=tf(2,[42875,3675,105,1]); dsys=c2d(sys,ts,'z'); [num,den]=tfdata(dsys,'v'); alldatanum=1000;%所有数据个数 traindatanum=500;%训练数据个数 testdatanum=500;%测试数据个数 u_1=0.0;u_2=0.0;u_3=0.0; y_1=0;y_2=0;y_3=0; x=[0,0,0]'; x2_1=0; kp=0.451; ki=0.00585; kd=0; error_1=0; rin=[rands(1,traindatanum) ones(1,testdatanum+20)]; %初始化输入 %Tracing Jieyue Signal

for k=1:1:1020 time(k)=k*ts; u(k)=kp*x(1)+kd*x(2)+ki*x(3); %PID Controller if u(k)>=10 u(k)=10; end if u(k)<=-10 u(k)=-10; end %Linear model yout(k)=-den(2)*y_1-den(3)*y_2- den(4)*y_3+num(1)*u(k)+num(2)*u_1+num(3)*u_2+num(4)*u_3; error(k)=rin(k)-yout(k); %----------Return of PID parameters------------% u_3=u_2;u_2=u_1;u_1=u(k); y_3=y_2;y_2=y_1;y_1=yout(k); x(1)=error(k); % Calculating P x2_1=x(2); x(2)=(error(k)-error_1)/ts; % Calculating D x(3)=x(3)+error(k)*ts; % Calculating I error_1=error(k); end %构建训练数据队 alldatain=[]; alldataout=[];

人工神经网络

人工神经网络 系别:计算机工程系 班级: 1120543 班 学号: 13 号 姓名: 日期:2014年10月23日

人工神经网络 摘要:人工神经网络是一种应用类似于大脑神经突触联接的结构进行信息处理的数学模型。在工程与学术界也常直接简称为神经网络或类神经网络。神经网络是一种运算模型,由大量的节点(或称神经元)之间相互联接构成,由大量处理单元互联组成的非线性、自适应信息处理系统。它是在现代神经科学研究成果的基础上提出的,试图通过模拟大脑神经网络处理、记忆信息的方式进行信息处理。 关键词:神经元;神经网络;人工神经网络;智能; 引言 人工神经网络的构筑理念是受到生物(人或其他动物)神经网络功能的运作启发而产生的。人工神经网络通常是通过一个基于数学统计学类型的学习方法(Learning Method)得以优化,所以人工神经网络也是数学统计学方法的一种实际应用,通过统计学的标准数学方法我们能够得到大量的可以用函数来表达的局部结构空间,另一方面在人工智能学的人工感知领域,我们通过数学统计学的应用可以来做人工感知方面的决定问题(也就是说通过统计学的方法,人工神经网络能够类似人一样具有简单的决定能力和简单的判断能力),这种方法比起正式的逻辑学推理演算更具有优势。 一、人工神经网络的基本原理 1-1神经细胞以及人工神经元的组成 神经系统的基本构造单元是神经细胞,也称神经元。它和人体中其他细胞的关键区别在于具有产生、处理和传递信号的功能。每个神经元都包括三个主要部分:细胞体、树突和轴突。树突的作用是向四方收集由其他神经细胞传来的信息,轴突的功能是传出从细胞体送来的信息。每个神经细胞所产生和传递的基本信息是兴奋或抑制。在两个神经细胞之间的相互接触点称为突触。简单神经元网络及其简化结构如图2-2所示。 从信息的传递过程来看,一个神经细胞的树突,在突触处从其他神经细胞接受信号。这些信号可能是兴奋性的,也可能是抑制性的。所有树突接受到的信号都传到细胞体进行综合处理,如果在一个时间间隔内,某一细胞接受到的兴奋性信号量足够大,以致于使该细胞被激活,而产生一个脉冲信号。这个信号将沿着该细胞的轴突传送出去,并通过突触传给其他神经细胞.神经细胞通过突触的联接形成神经网络。

第六章 神经网络在模式识别中的应用

第六章神经网络在模式识别中的应用 模式识别模拟的是人类一部分智能—识别、判断能力,而人类的智能活动都是在大脑的神经系统中完成的,如果我们能够模拟人类大脑的工作机理来实现识别系统,应该能够取得好的效果。人工神经网络的研究证实在这方面所进行的探索。 6.1 人工神经网络的基础知识 一、人工神经网络的发展历史 1943年,心理学家McCulloch和数学家Pitts提出了形式神经元的数学模型; 1949年,心理学家Hebb提出了神经元学习的准则; 20世纪50年代末,Rosenblatt提出了感知器模型,引起了神经元研究的广泛兴趣; 1969年,Minsky等人指出了感知器的局限性,神经网络的研究热潮下降; 1982年,Hopfield提出了一种神经网络的动力学模型,可以用于联想记忆和优化计算; 1986年,Rumelhart等人提出了多层感知器模型,克服了感知器模型的局限性,使得人工神经网络的研究再度受到重视。 二、生物神经元 一个典型的神经元(或称神经细胞)可以看作有三部分组成:细胞体,树突和轴突。 树突是神经元的生物信号输入端,与其它的神经元相连;轴突是神经元的信号输出端,连接到其它神经元的树突上;神经元有两种状态:兴奋和抑制,平时神经元都处于抑制状态,轴突没有输入,当神经元的树突输入信号大到一定程度,超过某个阈值时,神经元有抑制状态转为兴奋状态,同时轴突向其它神经元发出信号。 三、人工神经元

人工神经元是仿照生物神经元提出的,神经元可以有N 个输入:12,,,N x x x ,每个输入端与神经元之间有一定的联接权值:12,,,N w w w ,神经元总的输入为对每个输入的加权求和,同时减去阈值θ: 1 N i i i u w x θ== -∑ 神经元的输出y 是对u 的映射: ()1N i i i y f u f w x θ=?? ==- ??? ∑ f 称为输出函数,可以有很多形式。当f 为阈值函数时,神经元就可以看作是一个线 性分类器。 ()1, 00, x f x x >?=? ≤? 当取f 为Sigmoid 函数时,神经元完成的是连续的线性映射: ()11x f x e -=+ [0,1] ()2211x f x e -= -+ [-1,1] 一个神经元的结构可以简化为下图的形式: x 1x 2 x N 其中输入矢量为增广矢量,最后一维1N x =,用N w 代替阈值θ。

神经网络在模式识别中的简单分析及应用

模式识别就是机器识别、计算机识别或者机器自动化识别,目的在于让机器自动识别事物,使机器能做以前只能由人类才能做的事,具备人所具有的对各种事物与现象进行分析、描述与判断的部分能力。它研究的目的就是利用计算机对物理对象进行分类,在错误概率最小的条件下,使识别的结果尽量与客观事物相符合。 随着人们对人工神经网络的不断地认识,神经网络是指用大量的简单计算单元构成的非线性系统,它在一定程度和层次上模仿了人脑神经系统的信息处理、存储及检索功能,因而具有学习、记忆和计算等智能处理功能。这样人们利用人工神经网络具有高度的并行性,高度的非线性全局作用以及良好的容错性与联想记忆功能,并且具有良好的自适应、自学习功能等突出特点,可运用MATLAB神经网络工具箱中的神经网络模型,对经过训练的神经网络可以有效地提取信号、语音、图像等感知模式的特征,并能解决现有启发式模式识别系统不能很好解决的不变量探测、抽象和概括等问题。这样神经网络可应用于模式识别的特征提取、聚类分析、边缘检测、信号增强以及噪声抑制、数据压缩等各个环节。使用机器来进行模式的识别是一项非常有用的工作,能够辨别符号等系列的机器是很有价值的。目前,模式识别技术可以应用指纹识别、IC卡技术应用、字符识别等实例。模式识别成为人工神经网络特别适宜求解的一类问题。因此,神经网络技术在模式识别中也得到广泛应用与发展。 关键词:模式识别;人工神经网络;神经网络模型;神经网络技术

Pattern Recognition is the machine identification, computer identification or identification of machine automation, machine aimed at automatic identification of things to do before the machine can only be made by man can do, with people with all kinds of things and on an analysis of the phenomenon, described with the ability to determine the part. It is the purpose of the study of the physical object to use the computer for classification, the probability of the smallest in the wrong conditions, so that the results of recognition as far as possible in line with objective things. As artificial neural network to recognize the continuing, neural network refers to a large number of simple calculation unit consisting of non-linear system, which to some extent and level system to imitate the human brain's information processing, storage and retrieval functions, which has learning, memory and computing functions such as intelligent processing. Such people to use artificial neural network with a high degree of parallelism, the overall role of a high degree of non-linear and good fault tolerance and associative memory function, and have good self-adaptive, self-learning function, such as prominent features, the availability of MATLAB neural network toolbox The neural network model trained neural network can effectively extract the signal, voice, video and other features of perceptual patterns and heuristics to solve the existing pattern recognition systems are not well resolved invariant detection, such as abstract and summary issues. This neural network pattern recognition can be applied to feature extraction, clustering analysis, edge detection, signal enhancement and noise suppression, data compression, such as various links. The use of machines for pattern recognition is a very useful work, such as series of symbols to identify the machines are of great value. At present, the pattern recognition technology can be applied to fingerprint identification, IC card technology applications, such as examples of character recognition. Artificial neural network pattern recognition has become especially suitable for solving a class of problem. Therefore, the neural network pattern recognition technology is also widely used and development. Key words:pattern recognition;artificial neural network;neural network model;neural network technology

人工神经网络分类器

通信工程学院题目人工神经网络分类器 专业:自动化 学号:52110608 学生姓名:张继伟 指导教师姓名:刘富

日期:年月日 人工神经网络分类 摘要:80 年代重新兴起的人工神经网络已成为世界人工智能研究的热门课题之一。本文介绍了人工神经网络的一般结构及其算法, 介绍人工神经网络在模式识别方面的作用及用作模式识别的人工神经网络分类器。 人工神经网络简介: 人们对人工神经网络( A rt ifi ci al N e ur al N et 简作人N N , 也称神经网络) 的研究可追溯到40 年前。初期人们致力于建立较为详细的、仿生的( 模仿人的神经元) 神经网络的数学模型。50 年代至60 年代有人便试图建立结构上类于人脑的计算机。但由于当时集成电路、计算机及人工智能等方面技术的限制使得这种尝试未获成功, ’而且使这方面的工作几乎停顿了近20 年. 直到80 年代, 超大规格集成电路、人工智能、计算机技术及拓扑学算法的发展使得人工神经网络重新兴起并很快地蓬勃发展成了当今世界的一大热门课题. 尤其是人们希望人工神经网络能在语音和图象识别(s , ” c h a n d im a se eR co gn it on ) 方面达到完成人类的功能。使得人工神经网络在这方面有了不少应用成果。 1 98 7 年6 月在美国圣地亚哥召开的第一届国际神经网络年会( I c N N , nI entr iat o o al oC n fe r en ce on Ne ur ia N et w or k ) 重新揭开了人类向神经网络大规模进军的战幕, 据有关人士预料, 今后新一代计算机将是以神经网络为基础的, 具有高度并行处理能力, 具有自适应能力的新一代的计算机。从当前研究的热点看主要有下列几个方面: 一是各种神经网络模型的研究, 包括生物物理模型, 数学模型等。二是在数字机上进行模拟以探讨各类模型的特点、性能等。三是各种训练、学习规则的研究。四是神经网络在工作中的自适应能力的研究。五是硬件实现。国际上在这几方面的研究都尚属初级阶段, 尚有一些硬件实现和初步的应用成果。国内的研究则刚起步不久。本文介绍人工神经网络模型的一般结构及算法, 同时在和传统分类器( o as if er ) 比较的基础上介绍用于模式识别的人工神经网络分类器的结构和工作过程[1]。

模式识别-神经网络综述

结课论文题目:神经网络综述 学院河北大学工商学院学科门类理科 专业网络工程学号2013483158 姓名苑磊 指导教师李凯,邢洪杰 2016年11月3 日

学号:2013483158 专业:13级网络工程1班姓名:苑磊成绩: 神经网络综述 一摘要 作为一门近年来活跃的交叉性边缘学科,神经网络已经广泛的应用于图像的分割和对象的识别、分类问题中。近些年来,针对神经网络的学术研究大量涌现,由于他看起来不需要使用者对数学模型尤很多的了解,其基本思想很快被各个领域所接受,而随着人工神经网络的发展,神经网络模式识别在模式识别领域中起着越来越重要的作用。其中多层感知器神经网络具有通用非线性判别函数逼近器的性质,因此它在模式识别问题中得到了广泛的应用。BP神经网络算法是在BP神经网络现有算法的基础上提出的,是通过任意选定一组权值,将给定的目标输出直接作为线性方程的代数和来建立线性方程组,解得待求权,不存在传统方法的局部极小及收敛速度慢的问题,且更易理解。尤其是对于非线性的模式识别问题,相对于传统方法,其具有更好的特点。本文介绍了神经网络的一些概况,基本模型,以及神经网络模式识别的特点及算法思想。 二:关键词 神经网络、模式识别、多层感知网络、BP神经网络算法 三:正文 1.引言 人类对于认知的探索由来已久。但由于科学技术发展水平所限,人们对人脑的认识主要停留在观察和猜测的基础之上,缺乏有关人脑内部及其工作原理的科学依据,因此进展缓慢。直到20世纪40年代,随着神经解刨学、神经生理学以及神经元的电生理过程等的研究取得突破性进展,人们对人脑的结构、组成及最基本工作单元有了越来越充分的认识,在此基本认识的基础上,以数学和物理方法以及信息处理的角度对人脑神经网络进行抽象,并建立简化的模型,称之为人工神经网络ANN(Artificial Neural Network),为叙述方便将人工神经网络直接称之为神经网络。 模式识别是一种基本的智能活动,对模式识别方法的研究是机器智能研究的一个重要方面。人们对机器智能的研究有主要两个出发点,一是通过试图对人类(和其他高度动物)的自然智能建立一定的数学模型,来帮助理解智能活动的奥秘;二是利用各种数学手段,以计算机为工具建立具备一定智能的机器。早在20世纪40~50年代,人们就开始尝试研究神经系统的数学模型。从20世纪80年代以来,人们开始更大量借用神经生物学的概念(至少是术语)来研究机器智能,诞生了一门新兴的学科——人工神经网络,为模式识别的方法体系注入了新鲜血液。采用不同的数学模型就得到不同的神经网络方法,其中最有影响力的模型应该是多层感知器(MLP)模型。他具有从训练数据中学习任意复杂的非线性映射的能力,也包括实现复杂的非线性映射的能力,也包括复杂的非线性分类判别函数。从模式识别角度,多层感知器方法可以看作是一种通用的非线性分类器设计方法。目前,神经网络已经广泛的应用于图像的分割和对象的识别、分类问题中。根据神经网络的结构特点,人们通常把神经网络模型分成三种类型:前馈型网络(freedford network)、反馈型网络(feedback network)和竞争学习网络(competitive learning network)。

RBF神经网络模式识别

动态RBF神经网络模式识别 12721211,秦自杰 2013-03-01 摘要:本文讨论了神经网络模式识别的特点,研究了一种RBF神经网络在模式识别中的训练方法。对RBF神经网络的训练采用一种区域映射的方式,并由此使用区域映射误差函数,同时结合RAN新性条件进行网络节点的动态调整。不但加快了网络的训练过程,而且获得较小的网络结构,提高了网络的泛化性能和正确率。 关键词:径向基函数;分类;区域映射;动态;模式识别 A Dynamic RBF Neural Network for Pattern Recognition Abstract:The characteristics of neural network for pattern recognition are discussed in this paper. The problem of training RBF neural network for pattern recognition is considered. In this paper, a new training algorithm based on the regional mapping and novelty condition of RAN is proposed. The result show the effectiveness of the proposed approach in RBF network training for pattern recognition, mainly in shortening the learning time, simplifying the structure of network and improving the classification accuracy. Keywords: RBF; classification; regional mapping; dynamic; Pattern Recognition 1 引言 模式识别的任务是把模式正确地从特征空间映射到类空间,或者说是在特征空间中实现类的划分。目前进行模式识别比较主流的技术方法有,统计模式识别,句法模式识别,模糊模式识别,逻辑推理模式识别和神经网络模式识别等。针对不同的对象和目的,可以采用不同的模式识别理论、方法。 在数据样本分类领域,由于所要处理问题中模式样本越来越复杂,对分类器的设计提出了更高的要求,而神经网络不但有并行和容错等特点,还具有自适应能力,不但能自适应地学习,有的网络还能自适应的调整网络结构。在模式识别领域已经表现出巨大的优势和潜力[8、9]。神经网络模式识别已经发展成为模式识别领域的一种重要方法,发挥着传统模式识别方法不可替代的作用。使用神经网络进行模式识别的方法就是根据样本的特征向量进行匹配,建立网络模型,将其分类到正确的样本空间内。神经网络可以实现的功能为特征提取和统计分类两个部分,其中RBF神经网络因为其良好的分类性能得到越来越多的应用。 本文针对RBF网络在模式识别中的特性,通过改进的误差函数使网络具有区域映射的功能,同时在网络训练初始阶段使用输入输出样本聚类方法决定初始隐层节点,并通过RAN网络[12,13]“新性”条件添加和调整网络参数,建立一个精简的网络结构来完成模式识别的功能。 2 神经网络模式识别的特点 ⑴神经网络具有自组织和自学习能力,能够直接输入数据并进行学习。它神经网络对所要处理的对象在样本空间的分布状态无需做任何假设,而是直接从数据中学习样本之间的关系,因而还能

相关主题
文本预览
相关文档 最新文档