三层网络的BP结构
- 格式:doc
- 大小:322.50 KB
- 文档页数:2
神经网络简介神经网络简介:人工神经网络是以工程技术手段来模拟人脑神经元网络的结构和特征的系统。
利用人工神经网络可以构成各种不同拓扑结构的神经网络,他是生物神经网络的一种模拟和近似。
神经网络的主要连接形式主要有前馈型和反馈型神经网络。
常用的前馈型有感知器神经网络、BP 神经网络,常用的反馈型有Hopfield 网络。
这里介绍BP (Back Propagation )神经网络,即误差反向传播算法。
原理:BP (Back Propagation )网络是一种按误差逆传播算法训练的多层前馈网络,是目前应用最广泛的神经网络模型之一。
BP 神经网络模型拓扑结构包括输入层(input )、隐层(hide layer)和输出层(output layer),其中隐层可以是一层也可以是多层。
图:三层神经网络结构图(一个隐层)任何从输入到输出的连续映射函数都可以用一个三层的非线性网络实现 BP 算法由数据流的前向计算(正向传播)和误差信号的反向传播两个过程构成。
正向传播时,传播方向为输入层→隐层→输出层,每层神经元的状态只影响下一层神经元。
若在输出层得不到期望的输出,则转向误差信号的反向传播流程。
通过这两个过程的交替进行,在权向量空间执行误差函数梯度下降策略,动态迭代搜索一组权向量,使网络误差函数达到最小值,从而完成信息提取和记忆过程。
单个神经元的计算:设12,...ni x x x 分别代表来自神经元1,2...ni 的输入;12,...i i ini w w w 则分别表示神经元1,2...ni 与下一层第j 个神经元的连接强度,即权值;j b 为阈值;()f ∙为传递函数;j y 为第j 个神经元的输出。
若记001,j j x w b ==,于是节点j 的净输入j S 可表示为:0*nij ij i i S w x ==∑;净输入j S 通过激活函数()f ∙后,便得到第j 个神经元的输出:0()(*),nij j ij i i y f S f w x ===∑激活函数:激活函数()f ∙是单调上升可微函数,除输出层激活函数外,其他层激活函数必须是有界函数,必有一最大值。
BP神经网络及深度学习研究摘要:人工神经网络是一门交叉性学科,已广泛于医学、生物学、生理学、哲学、信息学、计算机科学、认知学等多学科交叉技术领域,并取得了重要成果。
BP(Back Propagation)神经网络是一种按误差逆传播算法训练的多层前馈网络,是目前应用最广泛的神经网络模型之一。
本文将主要介绍神经网络结构,重点研究BP神经网络原理、BP神经网络算法分析及改进和深度学习的研究。
关键词:BP神经网络、算法分析、应用1 引言人工神经网络(Artificial Neural Network,即ANN ),作为对人脑最简单的一种抽象和模拟,是人们模仿人的大脑神经系统信息处理功能的一个智能化系统,是20世纪80 年代以来人工智能领域兴起的研究热点。
人工神经网络以数学和物理方法以及信息处理的角度对人脑神经网络进行抽象,并建立某种简化模型,旨在模仿人脑结构及其功能的信息处理系统。
人工神经网络最有吸引力的特点就是它的学习能力。
因此从20世纪40年代人工神经网络萌芽开始,历经两个高潮期及一个反思期至1991年后进入再认识与应用研究期,涌现出无数的相关研究理论及成果,包括理论研究及应用研究。
最富有成果的研究工作是多层网络BP算法,Hopfield网络模型,自适应共振理论,自组织特征映射理论等。
因为其应用价值,该研究呈愈演愈烈的趋势,学者们在多领域中应用[1]人工神经网络模型对问题进行研究优化解决。
人工神经网络是由多个神经元连接构成,因此欲建立人工神经网络模型必先建立人工神经元模型,再根据神经元的连接方式及控制方式不同建立不同类型的人工神经网络模型。
现在分别介绍人工神经元模型及人工神经网络模型。
1.1 人工神经元模型仿生学在科技发展中起着重要作用,人工神经元模型的建立来源于生物神经元结构的仿生模拟,用来模拟人工神经网络[2]。
人们提出的神经元模型有很多,其中最早提出并且影响较大的是1943年心理学家McCulloch和数学家W. Pitts在分析总结神经元基本特性的基础上首先提出的MP模型。
5.4 BP神经网络的基本原理BP(Back Propagation)网络是1986年由Rinehart和McClelland为首的科学家小组提出,是一种按误差逆传播算法训练的多层前馈网络,是目前应用最广泛的神经网络模型之一。
BP网络能学习和存贮大量的输入-输出模式映射关系,而无需事前揭示描述这种映射关系的数学方程。
它的学习规则是使用最速下降法,通过反向传播来不断调整网络的权值和阈值,使网络的误差平方和最小。
BP神经网络模型拓扑结构包括输入层(input)、隐层(hide layer)和输出层(output layer)(如图5.2所示)。
5.4.1 BP神经元图5.3给出了第j个基本BP神经元(节点),它只模仿了生物神经元所具有的三个最基本也是最重要的功能:加权、求和与转移。
其中x1、x2…xi…xn分别代表来自神经元1、2…i…n的输入;wj1、wj2…wji…wjn则分别表示神经元1、2…i…n与第j个神经元的连接强度,即权值;bj 为阈值;f(·)为传递函数;yj为第j个神经元的输出。
第j个神经元的净输入值为:(5.12)其中:若视,,即令及包括及,则于是节点j的净输入可表示为:(5.13)净输入通过传递函数(Transfer Function)f (·)后,便得到第j个神经元的输出:(5.14)式中f(·)是单调上升函数,而且必须是有界函数,因为细胞传递的信号不可能无限增加,必有一最大值。
5.4.2 BP网络BP算法由数据流的前向计算(正向传播)和误差信号的反向传播两个过程构成。
正向传播时,传播方向为输入层→隐层→输出层,每层神经元的状态只影响下一层神经元。
若在输出层得不到期望的输出,则转向误差信号的反向传播流程。
通过这两个过程的交替进行,在权向量空间执行误差函数梯度下降策略,动态迭代搜索一组权向量,使网络误差函数达到最小值,从而完成信息提取和记忆过程。
5.4.2.1 正向传播设 BP网络的输入层有n个节点,隐层有q个节点,输出层有m个节点,输入层与隐层之间(·),的权值为,隐层与输出层之间的权值为,如图5.4所示。
3 BP 神经网络3.1 BP 神经网络结构BP 神经网络由多个网络层构成,通常包括一个输入层、若干个中间层和一个输出层。
BP 网络的特点是:各层神经元仅与相邻层神经元之间有连接;各层内神经元之间没有任何连接;各层神经元之间也没有反馈连接。
BP 网络具有很强的非线性映射能力,根据Kolrnogorov 定理,一个3层BP 神经网络能够实现对任意非线性函数进行逼近。
一个典型的3层BP 神经网络模型如图4所示。
图4 典型的三层BP 神经网络结构设BP 网络的输入层、中间层和输出层分别有NI 、NJ 和NK 个神经元。
中间层第j 个神经元的输入为:1;1,2,NIj ij i i net w o j NJ ===∑ (3.1)式中,ij w 为输入层中第i 个神经元到中间层第j 个神经元的权值;i o 为输入层中第i 个神经元的输出。
输出层第k 个神经元的输入为:1;1,2,,NJk jk j j net w o k NK ===∑ (3.2)式中,jk w 为中间层中第j 个神经元到输出层第k 个神经元的权值;j o 为中间层中第k 个神经元的输出。
输入层、中间层和输出层的输出分别为:i i i o net x ==(3.3)()1(,)1j j j j j j net o f net eθ--==+(3.4) ()1(,)1k k k k k k k net y o f net e θθ--===+(3.5)式中j θ和k θ分别为中间层第j 个神经元和输出层第k 个神经元的阈值。
BP 网络的训练采用基于梯度法的δ学习律,其目标是使网络输出与训练样本的均方误差最小。
设训练样本为P 个,其中输入向量为12,,,p x x x ;输出向量为12,,,p y y y ;相应的教师值(样本)向量为12,,,p t t t 。
则第P 个样本的均方误差为:211()2NK ppp k k k E t y ==-∑(3.6)式中,p k t 和p k y 分别为第k 个输出神经元第p 个样本的教师值和实际输出值。
学年论文(本科)学院数学与信息科学学院专业信息与计算科学专业年级10级4班姓名徐玉琳于正平马孝慧李运凤郭双双任培培论文题目BP神经网络原理与应用指导教师冯志敏成绩2013年 9月 24日BP神经网络的原理与应用1.BP神经网络的原理1.1 BP神经网络的结构BP神经网络模型是一个三层网络,它的拓扑结构可被划分为:输入层(InputLayer )、输出层(Outp ut Layer ) ,隐含层(Hide Layer ).其中,输入层与输出层具有更重要的意义,因此也可以为两层网络结构(把隐含层划入输入层,或者把隐含层去掉)每层都有许多简单的能够执行并行运算的神经元组成,这些神经元与生物系统中的那些神经元非常类似,但其并行性并没有生物神经元的并行性高.BP神经网络的特点:1)网络由多层构成,层与层之间全连接,同一层之间的神经元无连接.2)BP网络的传递函数必须可微.因此,感知器的传递函数-——二值函数在这里没有用武之地.BP网络一般使用Sigmoid函数或线性函数作为传递函数.3)采用误差反向传播算法(Back-Propagation Algorithm)进行学习.在BP 网络中,数据从输入层隐含层逐层向后传播,训练网络权值时,则沿着减少误差的方向,从输出层经过中间各层逐层向前修正网络的连接权值.随着学习的不断进行,最终的误差越来越来小.BP神经网络的学习过程BP神经网络的学习算法实际上就是对误差函数求极小值的算法,它采用的算法是最速下降法,使它对多个样本进行反复的学习训练并通过误差的反向传播来修改连接权系数,它是沿着输出误差函数的负梯度方向对其进行改变的,并且到最后使误差函数收敛于该函数的最小点.1.3 BP网络的学习算法BP网络的学习属于有监督学习,需要一组已知目标输出的学习样本集.训练时先使用随机值作为权值,修改权值有不同的规则.标准的BP神经网络沿着误差性能函数梯度的反向修改权值,原理与LMS算法比较类似,属于最速下降法.拟牛顿算法牛顿法是一种基于二阶泰勒级数的快速优化算法.其基本方法是1(1)()()()x k x k A k g k -+=-式中 ()A k ----误差性能函数在当前权值和阀值下的Hessian 矩阵(二阶导数),即2()()()x x k A k F x ==∇牛顿法通常比较梯度法的收敛速度快,但对于前向型神经网络计算Hessian 矩阵是很复杂的,付出的代价也很大.有一类基于牛顿法的算法不需要二阶导数,此类方法称为拟牛顿法(或正切法),在算法中的Hessian 矩阵用其近似值进行修正,修正值被看成梯度的函数. 1)BFGS 算法在公开发表的研究成果中,你牛顿法应用最为成功得有Boryden,Fletcher,Goldfard 和Shanno 修正算法,合称为BFG 算法. 该算法虽然收敛所需的步长通常较少,但在每次迭代过程所需要的计算量和存储空间比变梯度算法都要大,对近似Hessian 矩阵必须进行存储,其大小为n n ⨯,这里n 网络的链接权和阀值的数量.所以对于规模很大的网络用RPROP 算法或任何一种梯度算法可能好些;而对于规模较小的网络则用BFGS 算法可能更有效. 2)OSS 算法 由于BFGS 算法在每次迭代时比变梯度算法需要更多的存储空间和计算量,所以对于正切近似法减少其存储量和计算量是必要的.OSS 算法试图解决变梯度法和拟牛顿(正切)法之间的矛盾,该算法不必存储全部Hessian 矩阵,它假设每一次迭代时与前一次迭代的Hessian 矩阵具有一致性,这样做的一个有点是,在新的搜索方向进行计算时不必计算矩阵的逆.该算法每次迭代所需要的存储量和计算量介于梯度算法和完全拟牛顿算法之间. 最速下降BP 法最速下降BP 算法的BP 神经网络,设k 为迭代次数,则每一层权值和阀值的修正按下式进行(1)()()x k x k g k α+=-式中()x k —第k 次迭代各层之间的连接权向量或阀值向量;()g k =()()E k x k ∂∂—第k 次迭代的神经网络输出误差对各权值或阀值的梯度向量.负号表示梯度的反方向,即梯度的最速下降方向;α—学习效率,在训练时是一常数.在MATLAB 神经网络工具箱中,,可以通过改变训练参数进行设置;()E K —第k 次迭代的网络输出的总误差性能函数,在MATLAB 神经网络工具箱中BP 网络误差性能函数默认值为均方误差MSE,以二层BP 网络为例,只有一个输入样本时,有2()()E K E e k ⎡⎤=⎣⎦21S≈22221()S i i i t a k =⎡⎤-⎣⎦∑ 222212,1()()()()s ii j i i j a k f w k a k b k =⎧⎫⎪⎪⎡⎤=-⎨⎬⎣⎦⎪⎪⎩⎭∑21221112,,11()(()())()s s i j i j i i i j j f w k f iw k p ib k b k ==⎧⎫⎡⎤⎛⎫⎪⎪=++⎢⎥ ⎪⎨⎬⎢⎥⎝⎭⎪⎪⎣⎦⎩⎭∑∑若有n 个输入样本2()()E K E e k ⎡⎤=⎣⎦21nS ≈22221()S ii i ta k =⎡⎤-⎣⎦∑根据公式和各层的传输函数,可以求出第k 次迭代总误差曲面的梯度()g k =()()E k x k ∂∂,分别代入式子便可以逐次修正其权值和阀值,并是总的误差向减小的方向变化,直到达到所需要的误差性能为止. 1.4 BP 算法的改进BP 算法理论具有依据可靠、推导过程严谨、精度较高、通用性较好等优点,但标准BP 算法存在以下缺点:收敛速度缓慢;容易陷入局部极小值;难以确定隐层数和隐层节点个数.在实际应用中,BP 算法很难胜任,因此出现了很多改进算.利用动量法改进BP 算法标准BP 算法实质上是一种简单的最速下降静态寻优方法,在修正W(K)时,只按照第K 步的负梯度方向进行修正,而没有考虑到以前积累的经验,即以前时刻的梯度方向,从而常常使学习过程发生振荡,收敛缓慢.动量法权值调整算法的具体做法是:将上一次权值调整量的一部分迭加到按本次误差计算所得的权值调整量上,作为本次的实际权值调整量,即:其中:α为动量系数,通常0<α<0.9;η—学习率,范围在0.001~10之间.这种方法所加的动量因子实际上相当于阻尼项,它减小了学习过程中的振荡趋势,从而改善了收敛性.动量法降低了网络对于误差曲面局部细节的敏感性,有效的抑制了网络陷入局部极小.自适应调整学习速率标准BP算法收敛速度缓慢的一个重要原因是学习率选择不当,学习率选得太小,收敛太慢;学习率选得太大,则有可能修正过头,导致振荡甚至发散.可采用图所示的自适应方法调整学习率.调整的基本指导思想是:在学习收敛的情况下,增大η,以缩短学习时间;当η偏大致使不能收敛时,要及时减小η,直到收敛为止.动量-自适应学习速率调整算法采用动量法时,BP算法可以找到更优的解;采用自适应学习速率法时,BP算法可以缩短训练时间.将以上两种方法结合起来,就得到动量-自适应学习速率调整算法.1. L-M学习规则L-M(Levenberg-Marquardt)算法比前述几种使用梯度下降法的BP算法要快得多,但对于复杂问题,这种方法需要相当大的存储空间L-M(Levenberg-Marquardt)优化方法的权值调整率选为:其中:e —误差向量;J —网络误差对权值导数的雅可比(Jacobian )矩阵;μ—标量,当μ很大时上式接近于梯度法,当μ很小时上式变成了Gauss-Newton 法,在这种方法中,μ也是自适应调整的. 1.5 BP 神经网络的设计 网络的层数输入层节点数取决于输入向量的维数.应用神经网络解决实际问题时,首先应从问题中提炼出一个抽象模型,形成输入空间和输出空间.因此,数据的表达方式会影响输入向量的维数大小.例如,如果输入的是64*64的图像,则输入的向量应为图像中所有的像素形成的4096维向量.如果待解决的问题是二元函数拟合,则输入向量应为二维向量.理论上已证明:具有偏差和至少一个S 型隐含层加上一个线性输出层的网络,能够逼近任何有理数.增加层数可以更进一步的降低误差,提高精度,但同时也使网络复杂化,从而增加了网络权值的训练时间.而误差精度的提高实际上也可以通过增加神经元数目来获得,其训练效果也比增加层数更容易观察和调整.所以一般情况下,应优先考虑增加隐含层中的神经元数. 隐含层的神经元数网络训练精度的提高,可以通过采用一个隐含层,而增加神经元数了的方法来获得.这在结构实现上,要比增加隐含层数要简单得多.那么究竟选取多少隐含层节点才合适?这在理论上并没有一个明确的规定.在具体设计时,比较实际的做法是通过对不同神经元数进行训练对比,然后适当地加上一点余量.1)0niMi C k =>∑,k 为样本数,M 为隐含层神经元个数,n 为输入层神经元个数.如i>M,规定C i M =0.2)和n 分别是输出层和输入层的神经元数,a 是[0.10]之间的常量.3)M=2log n ,n 为输入层神经元个数.初始权值的选取由于系统是非线性的,初始值对于学习是否达到局部最小、是否能够收敛及训练时间的长短关系很大.如果初始值太大,使得加权后的输入和n落在了S型激活函数的饱和区,从而导致其导数f (n)非常小,从而使得调节过程几乎停顿下来.所以一般总是希望经过初始加权后的每个神经元的输出值都接近于零,这样可以保证每个神经元的权值都能够在它们的S型激活函数变化最大之处进行调节.所以,一般取初始权值在(-1,1)之间的随机数.学习速率学习速率决定每一次循环训练中所产生的权值变化量.大的学习速率可能导致系统的不稳定;但小的学习速率导致较长的训练时间,可能收敛很慢,不过能保证网络的误差值不跳出误差表面的低谷而最终趋于最小误差值.所以在一般情况下,倾向于选取较小的学习速率以保证系统的稳定性.学习速率的选取范围在0.01-0.8之间.1.6BP神经网络局限性需要参数多且参数选择没有有效的方法对于一些复杂问题 ,BP 算法可能要进行几小时甚至更长的时间训练,这主要是由于学习速率太小所造成的.标准BP 网络学习过程缓慢,易出现平台,这与学习参数率l r的选取有很大关系.当l r较时,权值修改量大,学习速率也快,但可能产生振荡;当l r较小时,虽然学习比较平稳,但速度十分缓慢.容易陷入局部最优BP网络易陷入局部最小, 使 BP网络不能以高精度逼近实际系统.目前对于这一问题的解决有加入动量项以及其它一些方法.BP 算法本质上是以误差平方和为目标函数 , 用梯度法求其最小值的算法.于是除非误差平方和函数是正定的, 否则必然产生局部极小点, 当局部极小点产生时 , BP算法所求的就不是解.1.6.3 样本依赖性这主要表现在网络出现的麻痹现象上.在网络的训练过程中,如其权值调的过大,可能使得所有的或大部分神经元的加权值偏大,这使得激活函数的输入工作在S型转移函数的饱和区,从而导致其导函数非常小,使得对网络权值的调节过程几乎停顿下来.通常为避免这种现象的发生,一是选取较小的初始权值,二是采用较小的学习速率,但又要增加时间训练.初始权敏感对于一些复杂的问题,BP算法可能要进行几个小时甚至更长时间的训练.这主要是由于学习速率太小造成的.可采用变化的学习速率或自适应的学习速率来加以改进.2.BP神经网络应用2.1 手算实现二值逻辑—异或这个例子中,采用手算实现基于BP网络的异或逻辑.训练时采用批量训练的方法,训练算法使用带动量因子的最速下降法.在MATLAB中新建脚本文件main_xor.m,输入代码如下:%脚本%批量训练方式.BP网络实现异或逻辑%%清理clear allclcrand('seed',2)eb = 0.01; %误差容限eta = 0.6; %学习率mc = 0.8; %动量因子maxiter = 1000; %最大迭代次数%% 初始化网络nSampNum = 4;nSampDim = 2;nHidden = 3;nOut = 1;w = 2*(rand(nHidden,nSampDim)-1/2);b = 2*(rand(nHidden,1)-1/2);wex = [w,b];W = 2*(rand(nOut,nHidden)-1/2);B = 2*(rand(nOut,1)-1/2);WEX = [W,B];%%数据SampIn=[0,0,1,1;...0,1,0,1;…1,1,1,1];expected = [0,1,1,0];%%训练iteration = 0;errRec = [];outRec =[];for i = 1:maxiter% 工作信号正向传播hp = wex*SampIn;tau = logsig(hp);tauex = [tau',1*ones(nSampNum,1)]';HM = WEX*tauex;out = logsig(HM);outRec = [outRec,out'];err = expected - out;sse = sumsqr(err);errRec = [errRec,sse];fprintf('第%d 次迭代,误差:%f \n',i,sse);% 判断是否收敛iteration = iteration + 1;if sse <= ebbreak;end% 误差信号反向传播% DELTA 和delta 为局部梯度DELTA = err.*dlogsig(HM,out);delta = W' * DELTA.*dlogsig(hp,tau);dWEX = DELTA*tauex';dwex = delta*SampIn';% 更新权值if i == 1WEX = WEX + eta*dWEX;wex = wex + eta*dwex;elseWEX = WEX + (1-mc)*eta*dWEX + mc*dWEXold;wex = wex + (1-mc)*eta*dwex+mc*dwexold;enddWEXold = dWEX;dwexold = dwex;W = WEX(:,1:nHidden);end%%显示figure(1)grid[nRow,nCol]=size(errRec);semilogy(1:nCol,errRec,'LineWidth',1.5);title('误差曲线');xlabel('迭代次数');x=-0.2:.05:1.2;[xx,yy] = meshgrid(x);for i=1:length(xx)for j=1:length(yy)xi=[xx(i,j),yy(i,j),1];hp = wex*xi';tau = logsig(hp);tauex = [tau',1]';HM = WEX*tauex;out = logsig(HM);z (i,j) =out;endendfigure(2)mesh(x,x,z);figure(3)plot([0,1],[0,1],'*','LineWidth',2);hold onplot([0,1],[1,0],'O','LineWidth',2);[c,h]=contour(x,x,z,0.5,'b');clabel(c,h);legend('0','1','分类面');title('分类面')2.2 误差下降曲线如下图所示:Finger 1010*******400500600700800900100010-210-110误差曲线迭代次数网格上的点在BP 网络映射下的输出如下图:Finger 2异或本质上是一个分类问题,,分类面如图:Finger 3分类面-0.200.20.40.60.81 1.2本文介绍了神经网络的研究背景和现状,分析了目前神经网络研究中存在的问题.然后描述了BP神经网络算法的实现以及BP神经网络的工作原理,给出了BP网络的局限性.本文虽然总结分析了BP神经网络算法的实现,给出了实例分析,但是还有很多的不足.所总结的BP神经网络和目前研究的现状都还不够全面,经过程序调试的图形有可能都还存在很多细节上的问题,而图形曲线所实现效果都还不够好,以及结果分析不够全面、正确、缺乏科学性等,这些都还是需加强提高的.近几年的不断发展,神经网络更是取得了非常广泛的应用,和令人瞩目的发展.在很多方面都发挥了其独特的作用,特别是在人工智能、自动控制、计算机科学、信息处理、机器人、模式识别等众多方面的应用实例,给人们带来了很多应用上到思考,和解决方法的研究.但是神经网络的研究最近几年还没有达到非常热门的阶段,这还需有很多热爱神经网络和研究神经网络人员的不断研究和创新,在科技高度发达的现在,我们有理由期待,也有理由相信.我想在不久的将来神经网络会应用到更多更广的方面,人们的生活会更加便捷.学年论文成绩评定表。
三层⽹络架构,接⼊交换机、汇聚交换机和核⼼交换机在交换机应⽤中,我们经常会听到接⼊交换机、汇聚交换机和核⼼交换机,它们究竟代表什么含义,什么样的交换机是接⼊交换机、汇聚交换机或者核⼼交换机呢?简单来说,接⼊交换机是指运⾏在接⼊层的交换机,汇聚交换机是指运⾏在汇聚层的交换机,核⼼交换机是指运⾏在核⼼层的交换机。
那么接下来我们就来介绍层次化⽹络结构。
多层⽹络架构采⽤层次化模型设计,即将复杂的⽹络设计分成⼏个层次,每个层次着重于某些特定的功能,这样就能够使⼀个复杂的⼤问题变成许多简单的⼩问题。
⽽三层⽹络架构设计的⽹络有三个层次:核⼼层(⽹络的⾼速交换主⼲)、汇聚层(提供基于策略的连接)、接⼊层(直接连接终端)。
核⼼层:核⼼层是⽹络的⾼速交换主⼲,对整个⽹络的连通起到⾄关重要的作⽤。
核⼼层应该具有如下⼏个特性:可靠性、⾼效性、冗余性、容错性、可管理性、适应性、低延时性等。
因为核⼼层是⽹络的枢纽中⼼,重要性突出。
核⼼层设备采⽤双机冗余热备份是⾮常必要的,也可以使⽤负载均衡功能,来改善⽹络性能。
汇聚层:汇聚层是⽹络接⼊层和核⼼层的“中介”,就是在有线终端接⼊核⼼层前先做汇聚,以减轻核⼼层设备的负荷。
汇聚层必须能够处理来⾃接⼊层设备的所有通信量,并提供到核⼼层的上⾏链路,因此汇聚层交换机与接⼊层交换机⽐较,需要更⾼的性能,更少的接⼝和更⾼的交换速率。
在汇聚层中,应该采⽤⽀持三层交换技术和VLAN的交换机,以达到⽹络隔离和分段的⽬的。
接⼊层:通常将⽹络中直接⾯向⽤户连接或访问⽹络的部分称为接⼊层,接⼊层⽬的是允许终端⽤户连接到⽹络,因此接⼊层交换机具有低成本和⾼端⼝密度特性。
我们在接⼊层设计上主张使⽤性能价格⽐⾼的设备。
接⼊层是最终⽤户与⽹络的接⼝,它应该提供即插即⽤的特性,同时应该⾮常易于使⽤和维护。
⼀般POE交换机是直接接终端供电,所以POE交换机是作为接⼊层交换机。
核⼼层需要处理所有的⽹络数据,汇聚层要处理所有的接⼊层数据,所以要求数据包转发能⼒:核⼼层>汇聚层>接⼊层参考资料=============什么是三层⽹络架构,接⼊交换机、汇聚交换机和核⼼交换机分别⼜是什么Core Switch Vs Distribution Switch Vs Access Switch。
传感器特别是硅压阻式传感器的温度误差在其总误差中占有很大的比重,温度补偿的好坏直接影响着传感器的总精度。
温度误差的补偿方法有很多种,其中软件补偿是一种较常见的方法。
由于传感器的温度误差是一种非线性误差,即各个温度点的补偿系数也应该呈非线性,这给补偿带来了一定的困难。
常常采用的方法是选取几个温度点,求得补偿系数,其它温度点的补偿系数通过线性插值得到,这种方法实质上是一种将补偿系数分段线性化来拟合补偿系数的非线性曲线的方法。
因此,要做到较高的补偿精度比较困难。
而BP神经网络具有很强的曲线拟合能力,可以利用BP网络对传感器输出值进行处理,得到去除了温度误差的理想输出值。
但是,单单从传感器的输出很难判断哪些是由输入压力所引起的输出,哪些是由于温度误差所带来的输出。
所以,向BP网络引入一个反映温度变化的参数至关重要。
而传感器桥路电压可以满足条件。
因此,利用传感器的桥路电压和未经温度补偿的传感器输出一起作为神经网络的输入。
试验证明,构建的BP神经网络能够使传感器的温度误差得到大大降低,使得传感器在-40~60℃温度范围内,非线性温度误差降低到0.2%。
1 BP神经网络硅压阻式传感器温度补偿1.1 硅压阻式传感器的温度误差硅压阻式传感器是用半导体材料制成的,而半导体材料对温度很敏感。
因此,硅压阻式传感器的温度误差较大,并且其温度误差具有以下特点:首先,在相同压力下硅压阻式传感器的温度误差比其他材料传感器的要大;其次,它的温度误差是非线性的;再次,在进行温度补偿的过程中,很难区分温度误差引起的输出量的变化和压力变化引起的输出量的变化;此外,硅压阻传感器的温度误差有很大的分散性,甚至由同一制造商提供的同一型号传感器的误差幅度彼此之间也会有轻微的差异。
这些特点给硅压阻式传感器的温度误差补偿带来了一定的困难。
鉴于硅压阻传感器温度误差的特点,要对它进行补偿,首先必须找到一个能够反映温度变化的参量,这可以从传感器的测量电路中获得。
建立一个三层前馈BP网络, 输入层采用6个神经元, 以上述6个预测因子为输入节点, 输出层用次年最大震级作输出节点, 通过多次比较训练, 最终确定隐层神经元数为14, 并设定正切“S”型函数为隐层传递函数, 线性函数作为输出层传递函数。
另外, 对学习速率lr、附加动量因子mc、最大循环次数epochs、期望误差最小值goal作如下设置:
net.trainParam.lr=0.01;
net.trainParam.mc=0.9;
net.trainParam.epochs=10000;
net.trainParam.goal=1e- 4.
选择表2中前9个样本为训练样本集, 采用带动量, 自适应学习速率的梯度下降法训练网络, 网络误差下降速度快(图3) , 经过172次学习, 拟合效果非常理想(图4)。
将表2中10、11、12三个样本值作为训练好的BP网络的输入, 通过神经网络工具箱的“sim”函数进行拟合求得次年最大震级预测值, 预测结果见表3。
表3 预测结果
样本编号次年实际最大震级预测震级预测误差
10 4.6 4.265 0.335
11 4.5 4.328 0.172
12 4.2 4.583 0.383
: MATLAB
由表3可知, 网络对3个震例进行内检所得到的结果与实际震级较为符合, 震级差均小于0.4, 因此, 本文所建立的网络模型及参数设置应用效果较好。
3 结束语
引发地震的相关因素很多, 其孕育、产生是一个复杂的非线性地球物理过程, 本文通过多元线性回归模型建模, 其回归模型不成立, 证明各预测因子与次年最大震级之间确实存在很强的非线性关系。
采用非线性回归方法作分析需要事先给出输入与输出之间的非线性函数关系, 而这个关系正是我们努力寻找且尚未找到的, 因此, 该方法不可用。
BP神经网络可以不受非线性模型的限制, 通过学习逼近实现任何复杂非线性映射, 在本文地震预测中得到了很好应用。
值得注意的是, 在神经网络的应用过程中, 样本的选取很重要。
首先, 样本集要能正确反映研究对象, 否则, 网络在学习时不收敛或收敛速度很慢, 即使收敛, 识别新样本时也会出现较大的偏差, 预测结果不可信。
其次, 样本集的相关性越好模拟的效果越好, 新样本与样本集的相关性越好预测的效果也越好。
再次, 预测值受样本集期望输出的最大值限制, 如果预测值超过样本集期望输出的最大值范围, 则要求神经网络具有很强的外推能力, 而这点
不容易做到, 一般而言, 神经网络较擅长内插。