实数编码的遗传算法优化BP神经网络
- 格式:ppt
- 大小:387.00 KB
- 文档页数:53
BP神经网络的优化算法比较研究优化算法是神经网络中的关键技术之一,它可以帮助神经网络快速收敛,有效地优化模型参数。
目前,常用的优化算法包括梯度下降法、动量法、Adagrad、Adam等。
本文将比较这些优化算法的优缺点。
1. 梯度下降法(Gradient Descent)梯度下降法是最基本的优化算法。
它通过计算损失函数对参数的梯度,不断地朝着梯度的相反方向更新参数。
优点是实现简单,容易理解。
缺点是容易陷入局部最优,并且收敛速度较慢。
2. 动量法(Momentum)动量法在梯度下降法的基础上增加了动量项。
它通过累积之前的梯度信息,使得参数更新时具有一定的惯性,可以加快收敛速度。
优点是减少了陷入局部最优的可能性,并且对于存在波动的梯度能够平滑更新。
缺点是在平坦区域容易产生过大的动量,导致无法快速收敛。
3. AdagradAdagrad算法基于学习率的自适应调整。
它通过累积梯度平方的倒数来调整学习率,使得对于稀疏梯度的参数每次更新较大,对于频繁出现的梯度每次更新较小。
优点是适应性强,能够自动调整学习率。
缺点是由于学习率的不断减小,当训练时间较长时容易陷入局部最优。
4. AdamAdam算法结合了动量法和Adagrad算法的优点。
它维护了一种动态的学习率,通过计算梯度的一阶矩估计和二阶矩估计来自适应地调整学习率。
优点是适应性强,并且能够自适应学习率的大小和方向。
缺点是对于不同的问题,参数的敏感性差异较大。
在一些问题上可能不适用。
综上所述,每个优化算法都有自己的优点和缺点。
梯度下降法是最基本的算法,容易理解,但是收敛速度较慢。
动量法通过增加动量项加快了收敛速度,但是容易陷入局部最优。
Adagrad和Adam算法具有自适应性,能够自动调整学习率,但是在一些问题上可能效果不佳。
因此,在实际应用中应根据具体问题选择适合的优化算法或采取集成的方式来提高模型的性能。
利用云模型和遗传算法优化BP神经网络权值摘要:标准BP算法主要根据训练样本确定神经网络的权值,由于BP算法采用沿梯度下降的搜索算法,因而其结果对初始权值非常敏感,收敛速度慢,易陷入局部极小。
结合正态云模型云滴的随机性和稳定倾向性,以及遗传算法的全局搜索能力,收敛速度快等特性优化神经网络的权值和阈值。
分类实验结果表明,该算法比标准BP算法收敛速度快,分类正确率高。
关键词:云模型;遗传算法;标准BP算法;神经网络0 引言BP算法(Back Propogation Algorithm)是目前应用最为广泛的神经网络学习算法,但由于BP算法采用沿梯度下降的搜索算法,因而其结果对初始权值非常敏感,不同的初始权值可能导致不同的结果以及易陷入局部极小等问题。
本文结合遗传算法的高度并行、随机、自适应的全局性概率搜索以及正态云模型云滴的随机性和稳定倾向性特点优化神经网络的权值和阈值。
该算法中的交叉概率、变异概率由X条件云发生器产生。
1 优化原理先利用神经网络试探出最好的网络隐层结点数,再利用本文提出的算法调整网络的权值以及阈值,然后再用调整好的权值和阈值进行分类。
编码:对于包含一层隐藏层模式为m-n-l多层神经网络共有q=m*n+n*l+n+l个权值和阈值需要优化,其中m为输入层结点数,n 为隐藏层结点数,l为输出层结点数。
将这q个权值和阈值记为W=(W 1,W2,…,W q),采用实数编码,将行向量W看作是一条染色体,而其中每个实数W i(i=1,2,…,q)是染色体的一个基因位。
选择算子:采用轮盘赌和精英保留选择策略。
每个染色体产生后代的数目正比于它的适应度值的大小,并且每一代中染色体的总数保持不变,这种方法也称为轮盘赌选择。
假设群体的大小为n,个体A i的适应度值为f(A i),则个体A i被选择的概率P(A i)为:P(A i)=f(A i)∑ni=1f(A i)交叉算子:随机产生二串长度为q的二进制串,设有两个父代,P=(P1,P2,…,P q)以及M=(M1,M2,…,M q),采用下面的方式得到两个子代:C=(C1,C2,…,C q) 和D=(D1,D 2,…,D q),用其中的一个二进制串产生子代C,用另一个二进制串产生子代D。
第13卷㊀第3期Vol.13No.3㊀㊀智㊀能㊀计㊀算㊀机㊀与㊀应㊀用IntelligentComputerandApplications㊀㊀2023年3月㊀Mar.2023㊀㊀㊀㊀㊀㊀文章编号:2095-2163(2023)03-0226-05中图分类号:TP103文献标志码:A基于遗传算法优化BP神经网络的飞机油耗预测方法邹春玲,熊㊀静,刘㊀超,严㊀宇(上海工程技术大学航空运输学院,上海201620)摘㊀要:飞机油耗的精准预测可以有效减少环境污染㊁节约燃油能源㊁为航空公司降低运营成本㊂为了提高飞机油耗的预测精度,本文采用主成分分析方法从QAR数据中选择对飞机油耗影响较大的地速㊁纵向加速度㊁垂直加速度㊁风速㊁风向㊁倾斜角㊁空速㊁气压高度作为BP神经网络的输入变量,提出了基于遗传算法优化反向传播神经网络的飞机油耗预测方法㊂通过Matlab仿真软件建立了预测模型,以某航空公司飞机下降阶段QAR数据为基础进行验证实验㊂实验结果显示,该模型的预测精度优于传统的BP神经网络模型,预测性能更好㊂关键词:BP神经网络;遗传算法;飞机油耗预测;QAR数据AircraftfuelconsumptionpredictionmethodbasedonBPneuralnetworkoptimizedbygeneticalgorithmZOUChunling,XIONGJing,LIUChao,YANYu(SchoolofAirTransportation,ShanghaiUniversityofEngineeringScience,Shanghai201620,China)ʌAbstractɔAccuratepredictionofaircraftfuelconsumptioncaneffectivelyreduceenvironmentalpollution,savefuelenergy,andreduceoperatingcostsforairlines.Inordertoimprovethepredictionaccuracyofaircraftfuelconsumption,thegroundspeed,longitudinalacceleration,verticalacceleration,windspeed,winddirection,tiltangle,airspeedandairpressureheightwithgreaterinfluenceonaircraftfuelconsumptionareselectedfromtheQARdatabyprincipalcomponentanalysismethod,andanaircraftfuelconsumptionpredictionmethodbasedongeneticalgorithmoptimizationbackpropagationneuralnetworkisproposed.ApredictivemodelisestablishedthroughMatlabsimulationsoftware,andaverificationexperimentisconductedbasedontheQARdataoftheaircraftdescentphaseofanairline.ExperimentalresultsshowthatcomparedwiththetraditionalBPneuralnetwork,themodelpredictstheeffectmoreaccuratelyandthepredictionperformanceisbetter.ʌKeywordsɔBPneuralnetwork;geneticalgorithm;aircraftfuelconsumptionprediction;QARdata基金项目:上海市自然科学基金面上项目(21ZR1423800)㊂作者简介:邹春玲(1997-),女,硕士研究生,主要研究方向:智能算法与飞机油耗预测;熊㊀静(1979-),女,副教授,硕士生导师,主要研究方向:交通通信㊁智能信息处理;刘㊀超(1998-),男,硕士研究生,主要研究方向:数字孪生㊁数据挖掘;严㊀宇(1997-),男,硕士研究生,主要研究方向:优化算法㊁交通运输规划㊂通讯作者:熊㊀静㊀㊀Email:crystal_420@126.com收稿日期:2022-05-160㊀引㊀言据航空公司的统计资料表明,航空器的燃油生产成本已超过了航空公司运营成本的百分之四十以上[1]㊂过度的飞机燃料消耗,不但为中国航空的经营成本增加了很大压力,同时也给国内的节能减排工作带来了巨大挑战㊂因此,如何对飞机燃油油耗进行精准的预测减少飞机油耗量成为学术界与工业界关注的热点问题㊂国内外学者在飞机油耗预测方面进行了大量的研究㊂Baklacioglu[2]使用遗传算法优化的BP神经网络模型来模拟飞行阶段的飞行高度与真实空速及飞机油耗之间的关系㊂Ma等学者[3]开发了一种基于遗传算法的双机身飞机MOD框架,并将其用于飞机配置优化中㊂Baumann等学者[4]使用神经网络和决策树2种机器学习算法应用到飞机不同飞行阶段和整个飞行任务的燃油消耗数据建模中,通过实验结果对比出2种方法的优劣㊂颜艳[5]构建了2种BP神经网络油耗预测模型,并将其应用到整个航段的飞机油耗预测中,同时采用MIV算法和敏感度分析法对模型的影响因素进行了分析㊂魏志强等学者[6]以空客A320机型的数据为基础,使用BP神经网络来对不可预期燃油进行预测㊂刘家学等学者[7]构建了一种改进深度信念网络的方法,并将其应用在飞机下降阶段的飞机油耗预测中,以此提高飞机油耗预测的精度㊂上述研究大多数是采用BP神经网络对飞机油耗某个阶段进行预测,但如果BP神经网络初始权值和阈值的位置选择不合适会导致网络的收敛速度慢㊁陷入局部最优值,针对这些问题,研究学者采用遗传算法对BP神经网络进行优化[8]㊂但目前该优化算法在飞机油耗预测领域应用较少,其个别应用多数使用单个参数进行研究,而飞机油耗量和众多因素相关㊂另外,有些建模未基于实际数据进行仿真实验,在实际应用中有一定局限性㊂因此,本文采用主成分分析法选择QAR数据中对飞机下降阶段影响较大的几个参数,建立基于遗传算法优化BP神经网络的飞机油耗预测模型,通过Matlab软件实现预测模型,并以某航空公司飞机QAR数据进行验证实验,将其预测精度与传统的BP神经网络进行对比分析,以验证其在飞机油耗量预测精准度上的提升㊂1㊀BP神经网络BP神经网络是Rumelhart等学者[9]在1986年提出来的概念㊂BP神经网络在训练的过程中,数据可以通过权重从输入层传递到隐藏层,经过隐藏层非线性计算后再作用于输出层,输出层通过计算与实际值之间的误差来调节数据传递过程中的权值和阈值[10]㊂3层BP神经网络包含了一个输入层㊁一个隐藏层和一个输出层,其结构如图1所示㊂X1X2 X mT1T n W i j Wj h输入层i隐藏层j输出层h 图1㊀3层BP神经网络结构图Fig.1㊀Three-layerBPneuralnetworkstructurediagram㊀㊀BP神经网络训练过程的步骤如下:(1)网络初始化㊂按照网络输入输出顺序(X,T),来设定网络的输入层节点数n㊁隐藏层节点数l㊁输出层节点数m,输入层到隐藏层的连接权值wij,隐藏层到输出层的连接权值wjh,初始化隐藏层阈值aj,输出层阈值bh,并且给定了学习速率η和神经元的激励函数g(x)㊂其中,i=1, ,n,j=1, ,l,h=1, ,m,g(x)取Sigmoid函数,数学公式具体如下:gx()=11+e-x(1)㊀㊀(2)隐藏层的输出㊂隐藏层输出Hj的数学公式具体如下:Hj=gðni=1wijxi+aj()(2)㊀㊀(3)输出层的输出㊂输出层输出Oh的数学公式具体如下:Oh=ðlj=1Hjwjh+bh(3)㊀㊀(4)误差计算㊂误差E的数学公式具体如下:E=12ðmh=1Yh-Oh(4)㊀㊀其中,Yh为期望输出㊂记Yh-Oh=eh,则E可以表示为:E=12ðmh=1e2h(5)㊀㊀(5)权值更新㊂权值的更新公式具体如下:wij=wij+ηHj1-Hj()xiðmh=1wjhehwjh=wjh+ηHjeh{(6)㊀㊀(6)阈值更新㊂阈值的更新公式具体如下:aj=aj+ηHj1-Hj()ðmh=1wjhehbh=bh+ηeh{(7)㊀㊀(7)判断算法是否迭代结束,若没有结束,返回步骤(2)㊂BP神经网络训练过程流程如图2所示㊂反向传播误差,求所有隐含层的误差求输出层与预期输出的偏差e前向求出各个隐含层和输出层的输出迭代次数t=1网络初始化:选择第一个输入样本开始调整权值与阈值本训练样本结束?迭代次数t=t+1训练样本训练结束?选择下一个输入样本结束图2㊀BP神经网络训练流程图Fig.2㊀BPneuralnetworktrainingflowchart722第3期邹春玲,等:基于遗传算法优化BP神经网络的飞机油耗预测方法2㊀基于遗传算法优化BP神经网络的预测模型㊀㊀遗传算法最早是由Holland于20世纪70年代提出,是一种通过选择㊁交叉和变异三个基本遗传算子操作来对种群个体进行逐代寻优,然后通过对BP神经网络的权值和阈值不断更新,最终获得全局最优解的随机搜索算法[11-12]㊂遗传算法的步骤如下㊂(1)初始值编码:遗传算法在对问题求解前要将定义问题的变量编码为二维的参数向量㊂本文采取实数编码方法㊂(2)初始化种群:随机生成W=(W1;W2; ;Wp)的初始种群,种群个体数设为P,通过线性插值函数生成个体Wi,W1,W2, ,Ws为算法的一个染色体㊂(3)计算种群个体适应度值:利用训练误差平方和作为计算种群个体适应值㊂(4)选择:采用轮盘赌法,选择概率可由式(8)计算求出:pi=fiðpi=1fi㊀i=1,2, ,p(8)㊀㊀其中,fi为适应度值倒数,p为种群规模㊂(5)交叉:基因Wq在j位的交叉操作和基因Ws在j位的交叉操作分别按如下公式进行:Wqj=Wqj1-b()+Wsjb(9)Wsj=Wsj1-b()+Wqjb(10)㊀㊀其中,b是[0,1]间的随机数㊂(6)变异:第i个个体的第j个基因进行种群变异,其操作可由如下公式进行描述:Wij=Wij+Wij-Wmax()fg()㊀rȡ0.5Wij+Wmin-Wij()fg()㊀r<0.5{(11)fg()=r2(1-g/Gmax)(12)㊀㊀其中,Wmax,Wmin分别为基因Wij的最大值和最小值;Gmax为最大进化次数;g为当前迭代次数;r为[0,1]间的随机数;r2是随机数㊂(7)获得新种群:重复(4) (6)步骤,直到输出最优解㊂GA优化BP神经网络的流程如图3所示㊂初始值编码(输入数据)数据匹配、预处理(归一化等)确定B P 网络结构初始化种群计算种群个体适应度值获取B P 初始权值和阈值选择(轮盘赌法)计算网络误差更新权值和阈值满足条件?满足最小均方误差或迭代次数输出结果仿真测试新种群变异变叉YNNY图3㊀GA优化BP神经网络流程图Fig.3㊀GA-optimizedBPneuralnetworkflowchart3㊀仿真实验3.1㊀实验环境及数据来源实验在MatlabR2016a环境下构建基于遗传算法优化BP神经网络的飞机油耗预测模型㊂本文实验的QAR数据来源于某航空公司,选择200组QAR数据样本进行实验,同时选取地速㊁纵向加速度㊁垂直加速度㊁风速㊁风向㊁倾斜角㊁空速㊁气压高度㊁俯仰角㊁大气温度㊁飞机质量㊁发动机工作状态12个飞行参数[13]㊂其中,96%的数据用于训练,其余4%的数据用于测试㊂为了更精准地预测模型,采用主成分分析法从12个飞行参数中选取对飞机燃油油耗影响比较大的主成分进行实验㊂对12个参数进行主成分分析得到的碎石图如图4所示㊂6543210组件号特征值123456789101112图4㊀飞机油耗主成分分析碎石图Fig.4㊀Analysisoftheprincipalcomponentsofaircraftfuelconsumptioninalithotripsychart822智㊀能㊀计㊀算㊀机㊀与㊀应㊀用㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀第13卷㊀㊀㊀从图4中可以看出,第8个参数后的特征值几乎趋于0,对飞机油耗的影响程度较小,故只选取前8个参数作为神经网络的输入㊂3.2㊀GA-BP神经网络的输入和输出数据实验的输入参数有地速㊁纵向加速度㊁垂直加速度㊁风速㊁风向㊁倾斜角㊁空速㊁气压高度共8种参数,输出参数为预测航线燃油油量这一种参数㊂经GA-BP神经网络模型计算后得出预测的航线油量㊂由于每个参数的量纲不同,输入参数在输入神经网络前要先进行归一化处理,使输入参数转化为[0,1]之间的无量纲数据,研究推得的数学公式为:X˙tn=Xtn-XtminXtmax-Xtmin(13)㊀㊀其中,X˙tn为第t个参数中第n个值归一化后的值;Xtn为第t个参数中第n个值归一化前的值;Xtmax为第t个参数中的最大值;Xtmin为第t个参数中的最小值㊂部分归一化前的数据见表1,部分归一化后的数据见表2㊂表1㊀部分归一化前的数据Tab.1㊀Databeforepartialnormalization地速纵向加速度垂直加速度风速风向倾斜角空速气压高度燃油油量254-0.007801.00414261.56-0.44240.38491653383830.001950.97789239.77-0.09286.003024042692120.050800.96517262.27-2.64192.50459253553150.007800.97753234.84-1.58268.881909245983170.003900.97751237.66-1.76269.88188244606319-0.003900.97749239.06-1.93269.8818556461324-0.003900.9846198.98-2.72270.3836574924-0.035200.9846198.98-2.46137.00365748170.007801.0166258.05-1.90132.883257401390.003900.9575214.45-2.72271.50845693表2㊀部分归一化后的数据(保留两位小数)Tab.2㊀Partiallynormalizeddata(keepstwodecimalplaces)地速纵向加速度垂直加速度风速风向倾斜角空速气压高度燃油油量0.250.16-0.37-0.750.640.360.67-0.670.440.920.29-0.530.980.110.530.990.99-1.000.040.45-0.60-0.680.66-0.700.34-0.690.470.570.24-0.530.15-0.01-0.190.880.26-0.550.580.22-0.530.100.06-0.280.880.24-0.540.590.18-0.530.060.09-0.360.880.22-0.53-0.930.03-0.49-0.93-0.88-0.74-0.05-0.991.00-0.930.24-0.49-0.93-0.88-0.62-0.08-0.990.99-0.700.22-0.49-0.93-0.88-0.350.89-0.990.98-0.340.28-0.29-0.950.56-0.74-0.05-0.990.923.3㊀GA-BP神经网络的训练BP神经网络模型使用三层网络结构,其中输入层节点数为8,隐含层节点数为6,输出层节点数为1㊂BP神经网络具体的参数设置见表3,GA的参数设置见表4㊂实验的误差使用平均相对误差(MRE)㊁均方误差(MSE)㊁平均绝对误差(MAE)来进行评估㊂3种误差计算公式分别见下式:MAE=1NðNpi=1|xi-x˙i|(14)MRE=ðNpi=1(xi-x˙i)2ðNpi=1xi()2(15)MSE=1NPðNpi=1(xi-x˙i)2(16)㊀㊀其中,xi是真实值;x˙i是预测值;NP是实验总样本㊂表3㊀BP神经网络参数设置Tab.3㊀BPneuralnetworkparameterssettings训练次数学习率训练目标训练函数传递函数10000.010.00004tansigPurelin,trainbfg表4㊀GA参数设置Tab.4㊀GAparametersettings种群规模变异概率进化代数交叉概率100.1100.33.4㊀实验仿真结果用经过预处理后的数据对模型进行训练,并将922第3期邹春玲,等:基于遗传算法优化BP神经网络的飞机油耗预测方法训练后的预测模型通过测试集进行检验,再将BP神经网络与遗传算法优化的BP神经网络的检验结果进行对比㊂研究得到的BP神经网络预测结果见图5,遗传算法优化BP神经网络预测结果见图6㊂从图5㊁图6可看出,遗传算法优化的BP神经网络对飞机油耗量预测结果比BP神经网络精确性更高㊂预测输出期望输出58005600540052005000480046004400420012345678预测样本飞机油耗图5㊀BP神经网络预测结果Fig.5㊀PredictionresultsofBPneuralnetwork预测输出期望输出5800560054005200500048004600440012345678预测样本飞机油耗图6㊀遗传算法优化BP神经网络预测结果Fig.6㊀PredictionresultsofGA-optimizedBPneuralnetwork㊀㊀通过测试集数据对预测模型进行预测后,使用MAE㊁MAPE以及RMSE三种计算方法分别计算各个模型的相对误差,误差对比情况见表5㊂从表5可以看出,GA-BP神经网络预测模型的MAE㊁MAPE以及RMSE与BP神经网络预测模型相比分别提高了4.6056㊁0.0138㊁4.2026㊂表5㊀模型预测误差对比Tab.5㊀Comparisonofmodelpredictionerrors预测模型MAEMAPERMSEBP9.13900.020127.4158GA-BP4.53340.006323.2132㊀㊀通过对预测结果及3种预测模型的MAE㊁MAPE及RMSE进行分析,可看出遗传算法优化的BP神经网络模型具有更好地稳定性和精确性,对飞机油耗的预测更准确,在实际应用中的可行性也更好㊂4㊀结束语提出了一种基于遗传算法优化BP神经网络的飞机油耗预测模型㊂仿真结果表明,与传统BP神经网络相比,此模型具有更好的预测性能,能提高飞机油耗预测精度,为飞机油耗提供了新的预测模型和方法㊂但却只将该模型用到了飞机下降阶段的油耗预测中,未来可考虑该模型在其它航段的实际应用㊂参考文献[1]李宜.航空节油飞行策略研究及分析软件的设计和开发[D].成都:电子科技大学,2010.[2]BAKLACIOGLUT.Modelingthefuelflow-rateoftransportaircraftduringflightphasesusinggeneticalgorithm-optimizedneuralnetworks[J].AerospaceScience&Technology,2016,49:52-62.[3]MAYiyuan,ELHAMA.Twin-fuselageconfigurationforimprovingfuelefficiencyofpassengeraircraft[J].AerospaceScienceandTechnology,2021,118:107000.[4]BAUMANNS,KLINGAUFU.Modelingofaircraftfuelconsumptionusingmachinelearningalgorithms[J].CEASAeronauticalJournal,2020,11:277-287.[5]颜艳.基于神经网络的A330多因素油耗模型研究[D].天津:中国民航大学,2015.[6]魏志强,胡杨.基于BP神经网络的不可预期燃油计算方法[J].飞行力学,2019,37(06):7-11,16.[7]刘家学,尹鹏.改进深度信念网络在飞机下降段油耗估计中的应用[J].计算机应用与软件,2019,36(08):69-74.[8]谷润平,来靖晗,魏志强.基于改进BP神经网络的飞行落地剩油预测方法[J].飞行力学,2020,38(04):76-80,86.[9]RUMELHARTDE,HINTONGE,WILLIAMSRJ.Learninginternalrepresentationsbyerrorpropagation[J].Nature,1986,323:533-536.[10]张峰峰,张欣,陈龙,等.采用改进遗传算法优化神经网络的双目相机标定[J].中国机械工程,2021,32(12):1423-1431.[11]HOLLANDJ.Adaptationinnaturalandartificialsystems:Anintroductoryanalysiswithapplicationtobiology,Control&ArtificialIntelligence[M].2nded.Cambridge:MITPress,1992.[12]刘萍,俞焕.一种改进的自适应遗传算法[J].舰船电子工程,2021,41(06):101-104.[13]刘婧.基于飞行数据分析的飞机燃油估计模型[D].南京:南京航空航天大学,2010.032智㊀能㊀计㊀算㊀机㊀与㊀应㊀用㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀第13卷㊀。
编号:审定成绩:重庆邮电大学毕业设计(论文)设计(论文)题目:基于遗传算法的BP神经网络的优化问题研究学院名称:学生姓名:专业:班级:学号:指导教师:答辩组负责人:填表时间:2010年06月重庆邮电大学教务处制摘要本文的主要研究工作如下:1、介绍了遗传算法的起源、发展和应用,阐述了遗传算法的基本操作,基本原理和遗传算法的特点。
2、介绍了人工神经网络的发展,基本原理,BP神经网络的结构以及BP算法。
3、利用遗传算法全局搜索能力强的特点与人工神经网络模型学习能力强的特点,把遗传算法用于神经网络初始权重的优化,设计出混合GA-BP算法,可以在一定程度上克服神经网络模型训练中普遍存在的局部极小点问题。
4、对某型导弹测试设备故障诊断建立神经网络,用GA直接训练BP神经网络权值,然后与纯BP算法相比较。
再用改进的GA-BP算法进行神经网络训练和检验,运用Matlab软件进行仿真,结果表明,用改进的GA-BP算法优化神经网络无论从收敛速度、误差及精度都明显高于未进行优化的BP神经网络,将两者结合从而得到比现有学习算法更好的学习效果。
【关键词】神经网络BP算法遗传算法ABSTRACTThe main research work is as follows:1. Describing the origin of the genetic algorithm, development and application, explain the basic operations of genetic algorithm, the basic principles and characteristics of genetic algorithms.2. Describing the development of artificial neural network, the basic principle, BP neural network structure and BP.3. Using the genetic algorithm global search capability of the characteristics and learning ability of artificial neural network model with strong features, the genetic algorithm for neural network initial weights of the optimization, design hybrid GA-BP algorithm, to a certain extent, overcome nerves ubiquitous network model training local minimum problem.4. A missile test on the fault diagnosis of neural network, trained with the GA directly to BP neural network weights, and then compared with the pure BP algorithm. Then the improved GA-BP algorithm neural network training and testing, use of Matlab software simulation results show that the improved GA-BP algorithm to optimize neural network in terms of convergence rate, error and accuracy were significantly higher than optimized BP neural network, a combination of both to be better than existing learning algorithm learning.Key words:neural network back-propagation algorithms genetic algorithms目录第一章绪论 (1)1.1 遗传算法的起源 (1)1.2 遗传算法的发展和应用 (1)1.2.1 遗传算法的发展过程 (1)1.2.2 遗传算法的应用领域 (2)1.3 基于遗传算法的BP神经网络 (3)1.4 本章小结 (4)第二章遗传算法 (5)2.1 遗传算法基本操作 (5)2.1.1 选择(Selection) (5)2.1.2 交叉(Crossover) (6)2.1.3 变异(Mutation) (7)2.2 遗传算法基本思想 (8)2.3 遗传算法的特点 (9)2.3.1 常规的寻优算法 (9)2.3.2 遗传算法与常规寻优算法的比较 (10)2.4 本章小结 (11)第三章神经网络 (12)3.1 人工神经网络发展 (12)3.2 神经网络基本原理 (12)3.2.1 神经元模型 (12)3.2.2 神经网络结构及工作方式 (14)3.2.3 神经网络原理概要 (15)3.3 BP神经网络 (15)3.4 本章小结 (21)第四章遗传算法优化BP神经网络 (22)4.1 遗传算法优化神经网络概述 (22)4.1.1 用遗传算法优化神经网络结构 (22)4.1.2 用遗传算法优化神经网络连接权值 (22)4.2 GA-BP优化方案及算法实现 (23)4.3 GA-BP仿真实现 (24)4.3.1 用GA直接训练BP网络的权值算法 (25)4.3.2 纯BP算法 (26)4.3.3 GA训练BP网络的权值与纯BP算法的比较 (28)4.3.4 混合GA-BP算法 (28)4.4 本章小结 (31)结论 (32)致谢 (33)参考文献 (34)附录 (35)1 英文原文 (35)2 英文翻译 (42)3 源程序 (47)第一章绪论1.1 遗传算法的起源从生物学上看,生物个体是由细胞组成的,而细胞则主要由细胞膜、细胞质、和细胞核构成。
基于遗传算法优化BP神经网络圆柱壳结构可靠度分析目录一、内容概括 (1)(一)基于遗传算法的优化方法介绍 (2)(二)BP神经网络介绍与应用场景分析 (2)(三)圆柱壳结构可靠度分析方法探讨 (4)二、圆柱壳结构基础理论知识概述 (5)(一)圆柱壳结构的组成及特点分析 (6)(二)圆柱壳结构的力学特性研究 (7)(三)圆柱壳结构可靠度评价指标介绍 (9)三、BP神经网络在圆柱壳结构可靠度分析中的应用 (9)(一)BP神经网络模型的构建与训练过程 (10)(二)基于BP神经网络的圆柱壳结构可靠度预测模型建立与实施步骤介绍11 (三)BP神经网络模型的优缺点分析及对策建议 (13)四、遗传算法在优化BP神经网络模型中的应用 (14)(一)遗传算法的基本原理及特点介绍 (16)(二)基于遗传算法的BP神经网络模型优化过程与实施步骤解析..16(三)案例分析 (18)一、内容概括介绍了BP神经网络的基本原理及其在当前圆柱壳结构可靠度分析中的局限性。
BP神经网络是一种通过反向传播算法进行权值和阈值调整的多层前馈网络,广泛应用于各种工程领域。
传统的BP神经网络在解决复杂结构优化问题时,往往存在易陷入局部最优解、收敛速度慢等问题。
阐述了遗传算法的基本原理和特性,遗传算法是一种模拟自然选择和遗传机制的优化搜索算法,具有全局优化能力,能够解决复杂的非线性问题。
将遗传算法与BP神经网络相结合,有望提高圆柱壳结构可靠度分析的准确性和效率。
详细描述了基于遗传算法优化BP神经网络的流程和方法。
通过遗传算法优化BP神经网络的权值和阈值,提高网络的性能和准确性。
将优化后的BP神经网络应用于圆柱壳结构可靠度分析,通过大量的数据训练和测试,验证该方法的可行性和有效性。
通过实例分析,展示了基于遗传算法优化BP神经网络在圆柱壳结构可靠度分析中的实际应用效果。
该方法能够显著提高圆柱壳结构可靠度分析的准确性和效率,为工程实践提供了一种新的思路和方法。
遗传算法与神经网络的结合近年来,随着人工智能领域的迅猛发展,遗传算法和神经网络分别作为两大重要技术,逐渐受到了研究者们的广泛关注。
遗传算法是通过模拟自然界中的进化思想,通过模拟生物遗传和进化的机制来搜索最优解的优化算法。
而神经网络则是模拟人脑神经元运作机制,通过输入输出之间的连接和权值来实现模式识别和计算的一种计算模型。
本文将探讨,以期在人工智能领域取得更好的应用效果。
首先,我们来看一下遗传算法和神经网络各自的优势。
遗传算法以其自动优化的特点被广泛应用于求解复杂问题。
它通过自然选择、交叉和变异等操作,将种群中适应度高的个体不断进化,从而找到最优解。
遗传算法在解决复杂、多变量问题时表现出了强大的优势,能够搜索到全局最优解。
而神经网络则以其强大的模式识别和学习能力而著称。
它通过神经元之间的连接和权值的调整,实现了对复杂非线性问题的建模和解决。
神经网络在图像识别、语音识别和自然语言处理等领域都取得了显著的成果。
然而,单一的遗传算法或神经网络在某些问题上可能存在局限性。
对于遗传算法而言,其搜索过程是基于群体的,可能会陷入局部最优解。
对于神经网络而言,其训练过程相对较慢,且对于参数的选择较为敏感。
为了克服这些问题,研究者们开始将遗传算法与神经网络相结合。
方式有多种。
其中一种常见的方式是通过遗传算法来优化神经网络的结构或参数。
在神经网络的训练过程中,通过遗传算法对神经网络的权值和偏置进行搜索和优化,以提高神经网络的性能。
另一种方式是将遗传算法的进化机制应用于神经网络的学习过程中。
通过模拟遗传算法的选择、交叉和变异等原理,对神经网络的连接结构和权值进行调整,以实现对神经网络的自适应调节和优化。
能够发挥二者的优点,弥补各自的不足。
首先,通过遗传算法的全局搜索能力,可以有效克服神经网络陷入局部最优解的问题。
其次,通过神经网络的模式识别和学习能力,可以提高遗传算法的搜索效率,使得算法能更快地找到最优解。
此外,还能够应对复杂问题,实现更复杂的模型和解决方案。
黑铉语言信麵与电睡China Computer & Communication2021年第1期基于遗传算法优化的B P神经网络在考研结果预测中的应用李驰(四川大学锦城学院计算机科学与软件工程系,四川成都611731)摘要:通过遗传算法先对BP神经网络的初始权值和阈值进行优化后,再将BP神经网络用于考研结果的预测模型中。
实验表明,这种优化后的预测模型因为克服了收敛速度慢、易产生局部最小等缺陷,比单纯使用BP神经网络建立的预测 模型准确度更高。
将这个预测模型用于考研报名之前供学生预测参考,方便学生做出合理的决策,具有一定的实际意义。
关键词:考研;预测;BP神经网络;遗传算法中图分类号:TD712 文献标识码:A文章编号:1003-9767 (2021) 01-038-04Application of BP Neural Network Based on Genetic Algorithms Optimization in Prediction of Postgraduate Entrance ExaminationLI Chi(Department of Computer Science and Software Engineering,Jincheng College of Sichuan University,Chengdu Sichuan611731, China) Abstract:F irs tly,the in itia l weight and threshold of BP neural network are optimized by genetic algorithm,and then BP neural netw ork is used in the pre diction model of the results o f the postgraduate entrance exam ination.The experim ent shows that the optim ized prediction model overcomes the shortcomings o f slow convergence speed and easy to produce local m inim um,so it is more accurate than the pre diction model established by BP neural network alone.This pre diction model can be used as a reference for students to make a reasonable decision before applying fo r postgraduate entrance examination.Key words:postgraduate entrance exam ination;prediction;BP neural network;genetic algorithms〇引言随着社会对于高素质知识型人才的需求越来越迫切,我 国报考研究生的人数呈现逐年大幅増加的趋势。