网络态势预测的广义回归神经网络模型_卓莹

第４５卷　第１１期２０２３年１１月系统工程与电子技术ＳｙｓｔｅｍｓＥｎｇｉｎｅｅｒｉｎｇａｎｄＥｌｅｃｔｒｏｎｉｃｓＶｏｌ．４５　Ｎｏ．１１Ｎｏｖｅｍｂｅｒ２０２３文章编号：１００１ ５０６Ｘ（２０２３）１１ ３６７１ ０９　网址：ｗｗｗ．ｓｙｓ ｅｌｅ．ｃｏｍ收稿日期：２０２２０５０３；修回日期：２０２２０８１２；网络优先出版日期：２０２２０９２２。

网络优先出版地址：ｈｔｔｐ：∥ｋｎｓ．ｃｎｋｉ．ｎｅｔ／ｋｃｍｓ／ｄｅｔａｉｌ／１１．２４２２．ＴＮ．２０２２０９２２．０９１２．００２．ｈｔｍｌ基金项目：国家自然科学基金（６２００２３６２）；国防自然科学基金（６１７０３４２６）；陕西省高校科协青年人才托举计划（２０１９０３８）；中国陕西省创新能力支持计划（２０２０ＫＪＸＸ ０６５）资助课题 通讯作者．引用格式：孙隽丰，李成海，曹波．基于ＴＣＮ ＢｉＬＳＴＭ的网络安全态势预测［Ｊ］．系统工程与电子技术，２０２３，４５（１１）：３６７１ ３６７９．犚犲犳犲狉犲狀犮犲犳狅狉犿犪狋：ＳＵＮＪＦ，ＬＩＣＨ，ＣＡＯＢ．ＮｅｔｗｏｒｋｓｅｃｕｒｉｔｙｓｉｔｕａｔｉｏｎｐｒｅｄｉｃｔｉｏｎｂａｓｅｄｏｎＴＣＮ ＢｉＬＳＴＭ［Ｊ］．ＳｙｓｔｅｍｓＥｎｇｉｎｅｅｒｉｎｇａｎｄＥｌｅｃｔｒｏｎｉｃｓ，２０２３，４５（１１）：３６７１ ３６７９．基于犜犆犖 犅犻犔犛犜犕的网络安全态势预测孙隽丰１，２， ，李成海１，曹　波１（１．空军工程大学防空反导学院，陕西西安７１００５１；２．中国人民解放军第９４９９４部队，江苏南京２１００００） 摘　要：针对现有网络安全态势预测模型预测精确度低和收敛速度慢的问题，提出一种基于时域卷积网络（ｔｅｍｐｏｒａｌｃｏｎｖｏｌｕｔｉｏｎｎｅｔｗｏｒｋ，ＴＣＮ）和双向长短期记忆（ｂｉ ｄｉｒｅｃｔｉｏｎａｌｌｏｎｇｓｈｏｒｔ ｔｅｒｍｍｅｍｏｒｙ，ＢｉＬＳＴＭ）网络的预测方法。

首先，将ＴＣＮ处理时间序列问题的优势应用到态势预测上学习态势值的序列特征；随后，引入注意力机制动态调整属性的权值；然后，利用ＢｉＬＳＴＭ模型学习态势值的前后状况，以提取序列中更多的信息进行预测；利用粒子群优化（ｐａｒｔｉｃｌｅｓｗａｒｍｏｐｔｉｍｉｚａｔｉｏｎ，ＰＳＯ）算法进行超参数寻优，提升预测能力。

基于神经网络的广义预测控制综述第18卷第3期2005年6月常州工学院JournalofChangzhouInstituteofTechnologyV o1.18NO.3Jun.2005基于神经网络的广义预测控制综述李东侠张忠禄(常州T学院电子信息与电气工程学院,江苏常州213002)摘要:概括叙述了广义预测控制的发展现状,对具有误差校正的预测控制方法进行了概括,介绍了与神经网络相结合的非线性系统的预测控制方法,并在此基础上讨论了神经网络非线性预测控制中存在的问题及进一步研究的方向.关键词:预测控制;误差校正;神经网络;非线性系统中图分类号:TPI83文献标识码:A文章编号:1671—0436(2005)03—0012—041广义预测控制的发展现状广义预测控制是随着自适应控制的研究而发展起来的一种预测控制方法.GPC基于参数模型,引入了不相等的预测水平和控制水平,系统设计灵活方便,具有预测模型,滚动优化和在线反馈校正等特征,呈现出优良的控制性能和鲁棒性.到现在为止,人们已经对该控制算法作了大量的研究,并且取得了许多研究成果.1.1广义预测控制的间接算法广义预测控制算法有两类主要算法,即问接算法和直接算法(也称为显式算法和隐式算法). 间接算法在被控对象参数未知时,必须首先辨识被控对象的参数,然后利用辨识出来的参数计算求解控制律所需要的中问参数,最后才计算控制量.问接算法中需要进行Diophanfine方程的求解,矩阵求逆,递推最小二乘法的求解,计算量较大.为了减少在线计算量,针对这一问题,提出了许多改进方法.文[1]给出了Diophantine方程递推求解的方法;文[2]利用参数辨识的结果直接求解控制器,不用求解Diophantine方程,减少了计算量;文[3]采用递推的方法建立预测模型,避免了求解Diophantine方程,而且不受多项式稳定的限制;文[4]利用待求逆矩阵中下三角矩阵元收稿日期:2005-03—30素的特点,给出了一种递推求解逆矩阵的方法;文[5]提出了并行结构分解的算法,提高了在线计算效率;文[6]分别针对状态空间模型和输入输出模型,采用递推的方法,将GPC化为解Riccafi 方程,基于脉冲阵列结构提出了参数辨识的并行方法.1.2广义预测控制的直接算法同问接方法相比较,直接算法不需要求解Di. ophantine方程和逆矩阵,直接估计控制器的参数.文[7]在假定被控对象的阶跃响应前Ⅳ项已知的情况下,给出了一种直接算法和全局收敛性分析;文[8]使用带死区的参数估计方法估计控制器参数;文[9]引入等价性能指标,采用两个辨识器,先辨识被控对象的参数,得到广义输出,然后再用改进的最小二乘法估计控制器的参数;文[10]通过求性能指标的等值曲面,分析了受幅度和变化率约束下的优化问题,给出了一种基于几何分析的约束直接广义预测控制算法;文[11]分析了被控对象的开环参数,闭环参数和控制器参数之问的关系,采用三个辨识器,通过辨识开环系统的参数来递推计算系统的预测输出和参考轨迹,通过辨识闭环系统得到系统的广义输出,在此基础上辨识控制器的参数.除了上述基于受控自回归积分滑动平均模型第3期李东侠,张忠禄:基于神经网络的广义预测控制综述13 (CARIMA)的间接算法和直接算法以外,还有许多其他的广义预测控制算法,如与PID相结合的广义预测控制算法¨,与模糊控制相结合的GPC算法¨,变结构的预测控制算法和有约束的广义预测控制算法儿"等,许多学者还提出了一些改进算法,如加权控制律的GPC算法161,增量型广义预测控制…等.2基于神经网络误差校正的广义预测控制2.1误差校正原理对预测控制来说,核心问题是怎样根据对象的已知信息做出较好的预测.由于对象的验前信息的不充分性,基于此类信息集合得到的预测模型,用于在线预测时,其预测值与实测值之间一定存在一个偏差,我们称其为预测误差.预测误差越大,控制效果越差.当前采用的各种预测控制方法,不管是间接算法,还是直接算法,一般其预测输出的预测模型都是建立在数学模型的基础上,都没有考虑建模误差的影响.虽然一般的广义预测控制算法对模型失配有一定的抑制作用, 但目前的算法对模型失配的抑制能力是有限的, 当建模误差较大时,随着预测长度的增加,预测误差必然也会急剧增加,从而有可能破坏预测控制系统的鲁棒性,只有根据实测信息不断进行反馈校正,才能保证预测趋于准确.为了克服这一缺点,考虑引入预测误差对预测输出进行校正,即: 利用预测误差的过去信息建立误差的预测模型, 通过对误差的预测修正系统的预测输出,进一步克服模型失配的影响,提高控制系统的鲁棒性. 引入预测误差以后,系统的预测输出可以表示为: Y(t+k/t)=Y(t+k/t)+Y(t+k/t)(1)其中,Y(t+k/t)表示在t时刻对t+时刻系统输出的预测,Y(t+k/t)表示系统基于数学模型的输出预测,Y,(t+k/t)是根据预测误差的历史数据对模型预测的修正.2.2建立误差预测模型的方法为了克服建模误差的影响,增强预测控制的鲁棒性,许多学者对误差的预测进行了研究.传统方法是用时刻已知的模型输出误差e(k)=Y(k)一Y(k)来修正,文[18]中提出了利用预测误差的历史数据建立误差预测模型,通过对误差的预测修正纯粹基于数学模型的预测,采用时序分析里的AR模型,利用参数辨识的最小二乘法递推估计误差模型参数,建立误差的预测模型.由于神经网络能够逼近任意复杂的非线性函数关系,采用并行分布式信息处理方法,可同时综合定量和定性信息,既可在线学习也可离线计算, 灵活性大,所以用神经网络建立误差预测模型的方法有很大的发展空间.文[19]采用与神经网络相结合的方式,基于BP结构神经网络,对系统的建模误差进行预测, 建立误差的预测模型,取得了较好的控制效果.网络的输入向量为X=[Y(t),Y(t一1),…Y(t一),H(t—1),…,"(t一七一1)],其中Y(?)为系统的输出值,U(?)为系统的控制量,网络的输出向量为Y=[Y(t),…,Y(t—k)],而Y(t一七)Ay(t一七)一Y(t—k/t—k—),k=1,2,…,P(2)其中,Y(t—k)是t—k时刻系统的输出值,Y (t—k/t—k—d)是在t—k—d时刻基于数学模型对Y(t—k)的预测值,d为系统时滞,P为训练样本数.文[2O]提出了一种改进的全局寻优自适应快速BP算法,并应用于广义预测控制算法中, 用该网络建立误差预测模型,解决了限制GPC实时控制的快速性问题.文[21]采用动态BP网络对模型预测误差进行在线补偿,提高了预测精度. 文[22]中提出了利用径向基函数神经网络(RBFNN)来补偿由系统的非线性和外界干扰引起的预测误差,也取得了较好的控制效果.3基于神经网络的非线性系统的广义预测控制实际中的控制对象都带有一定的非线性,大多数具有弱非线性的对象可用线性化模型近似, 并应用已有的线性控制理论的研究成果来获得较好的控制效果.而对具有强非线性的系统的控制则一直是控制界研究的热点和难点,模型线性化无法满足系统控制要求,在某些极端情况下,线性化的参考模型甚至会导致控制系统稳定性的丧失,将广义预测控制对线性系统的良好控制作用l4常州工学院2005正推广到非线性系统,也是预测控制研究的方向之一.就预测控制的基本原理而言,只要从被控对象能够抽取出满足要求的预测模型,它便可以应用于任何类型的系统,包括线性和非线性系统.但由于非线性系统的复杂多样性,在实现的技术上和理论分析上难度比线性系统要大得多.近年来人们对非线性系统的预测控制做了大量的研究,并提出了不少有意义的方法.与神经网络,多模型控制,微分集合理论和微分代数理论等算法相结合,是非线性系统的GPC研究的有效途径之一.由于神经网络理论在求解非线性方面的巨大优势,很快被应用于非线性预测控制中,并形成许多不同的算法.如神经网络的内模控制,神经网络的增量型模型算法控制等,近来一些学者对有约束神经网络的预测控制也作了相应的研究.基于神经网络的非线性GPC研究还处于起步阶段, 这方面的研究成果很少,其主要原因是利用神经网络进行多步预测还没有直接有效的方法.文[24]设计了多层前馈神经网络,使控制律离线求解.文[25]采用两个网络进行预测,但结构复杂,距实际应用还有一定的距离,文[26]利用递阶遗传算法,经训练得出离线神经网络模型,经多步预测得出对象的预测模型,给出了具有时延的非线性系统的优化预测控制.将神经网络用于GPC的研究成果有利用Tank—Hopfield网络处理GPC矩阵求逆的算法,基于神经网络误差修正的GPC算法,利用小脑模型进行提前计算的GPC算法,基于GPC的对角递归神经网络控制方法以及用神经网络处理约束情形的预测控制算法.非线性系统的GPC研究成果还有基于双线性模型的GPC算法等,但算法都具有一定的局限性.4基于神经网络的预测控制中存在的问题众所周知,评价一个神经网络的主要性能指标是学习收敛速度和泛化能力.前者表现在以一定的精度逼近学习样本所需的时间,而后者表现在对学习样本集外的样本的逼近程度.采用Sigmoid函数作为网络单元函数的多层前馈网络(BPN)是当今应用最广的一种网络.这类网络采用反向传播(BP)学习算法.虽然BP网络是应用最多的一种神经网络,但它仍存在一些缺陷:(1)学习速度慢,即使一个比较简单的问题,也需要几百次甚至几千次的学习才能收敛;(2)不能保证收敛到全局最小点; (3)网络隐含层的层数及隐含层的单元数的选取尚无理论上的指导,而是根据经验确定.因此,网络往往有很大的冗余性,无形中增加了网络学习的时间;(4)网络的学习,记忆具有不稳定性.所以以下问题有待进一步完善:(1)神经网络的收敛速度一直是限制其应用的主要问题,要进一步提高神经网络的收敛速度及泛化能力,提高神经网络的实用性.(2)利用神经网络进行多步预测还没有直接有效的方法.(3)对非线性系统的预测控制还没有很好的解决,由于广义预测控制算法本身的特殊性和非线性系统的复杂多样,这方面的研究成果也较少.目前在非线性预测控制中使用的神经网络大多为静态的网络,限制了神经网络的非线性表达能力,并且网络结构复杂计算量大,快速有效的预测控制方法有待进一步研究.[参考文献][1]ClarkeD.W.andMohtadi,C.andTufts,P.S,mGeneralized PredictiveContro1.PartI.TheBasicAlgorithmic.PartIIExtcn—sionsandInterpretations[J].Automatic,1987,23(2):137一l6O.[2]袁着祉,崔保民.新型随机广义预测自校正控制器[J].自动化,1992,18(3):282—289.[3]金元郁.预测控制算法研究[D].沈阳:东北工学院博士学位论文,1990.[4]郭庆鼎,金元郁,胡耀华.求解GPC中逆矩阵的递推算法[J].控制与决策,1996,11(4):510—513.[5]扬健,席裕庚,张钟俊.预测控制滚动优化的时间分解方法[J].自动化,1995,21(5):555—561.[6]慕德俊,戴冠中.基于状态空间模型广义预测控制的并行算法[J].控制理论与应用,1995,12(5):646—652.[7]王伟.广义预测控制自适应控制的直接算法和全局收敛性分析[J].自动化,1995,21(1):57—62.【8]Wangwei.ADirectAdaptiveGeneralizedPredictiveControlAb gorithmwithGuaranteedStabillity[J].Int.J.ofAdaptiveControl&SignalProcessing,1994,8(3):211—227.第3期李东侠,张忠禄:基于神经网络的广义预测控制综述[9]舒迪前,石中锁.隐式自适应广义预测控制器及全局收敛性分析[J].自动化,1995,21(5):545—554.[10]张峻,席裕庚.基于几何分析的约束预测控制直接算法[J].控制与决策,1997,12(2):184—187.[11]胡耀华,贾欣乐.广义预测控制的直接算法[J].控制与决策,2000,15(2):221—223.[12]陈增强,车海平,袁着祉.具有比例积分结构的广义预测自校正控制器[J].控制与决策,1994,9(2):105—110.[13]张化光,吕剑虹,陈来九.模糊广义预测控制及其应用[J].自动化,1993,19(1):9—17.[14]毛志忠,杨琳.一种解决预测控制输入信号受约束问题的方法[J].控制与决策,1994,9(3):230—233.[15]LimKW,HoWK,LeeTH,LingKV,XuW.Generalized PredictiveControllerwithPoleRestriction[J].IEEProc—D, 1998,145(2):219—225.[16]周德云,陈新海.采用加权控制律的自适应广义预测控制器[J].控制与决策,1991,6(1):7—13.[17]孙明玮,陈增强,袁着祉.增量型广义预测控制[J].控制理论与应用,2000,17(2):165—168.[18]古钟璧,王祯学,王苇.具有误差预测修正的预测控制算法[J].控制与决策,1992,7(6):432—436.[19]李少远,刘浩,袁着祉.基于神经网络误差修正的广义预测控制[J].控制理论与应用,1996,13(5):677—680.[20]王一晶,左志强.基于改进BP网络的广义预测控制快速算法[J].基础自动化,2002,9(2):l0一l2.[21]刘晓华,王秀红,杨振光.基于动态BP网络误差修正的广义预测控制[J].青岛大学,2002,15(1):34—39.[22]张彬,李平,陈红艳.基于径向基函数神经网络偏差补偿的预测函数控制[J].哈尔滨理工大学,2003,8(1):46—49.[23]席裕庚.预测控制[M].北京:国防丁业出版社.1993.[24]ParisiniT,SanguinetiandZoppoliR.Nonlinearstabilizationby receding—hodzonneuralregulator[J].Int.J.Control,1998,70(3):341—362.[25]SchenkerB.AgarwalM.LongRangePredictiveControlfor PoorlyKnownSystems[J].Int.J.Control,1990,62(1):227—238.[26]刘宝坤,王慧,曹明,李光良.基于神经网络模型直接优化预测控制[J].信息与控制,1998,27(5):386—390.[27]胡耀华,贾欣乐.广义预测控制综述[J].信息与控制,2000,29(3):248—256.[28]史国栋,王洪元,薛国新.基于径向基函数模型的非线性预测控制策略研究[J].模式识别与人工智能,2000,13(4):361—365.[29]PhilipDWasserman.NeuralComputingTheoryandPractice[M].NewY ork:VanNostrandReinhold.1989.124—129. SummarizationofGeneralizedPredictiveControlBasedonNeuralNetworkLIDong?-xiaZHANGZhong?-lu(SchoolofElectronicInformation&ElectricEngineering,ChangzhouInstituteofTech nology,Changzhou213002)Abstract:ThispapersummarizestheactualityofGeneralizedPredictiveControl(GPC).The predic.tivecontrolmethodwitherrorcorrectionissummedup.Thenitrecommendsthepredictiveme thodscom.binedwithneuralnetworkofnonlinearsystem.Basedonthisitpresentstheproblemsexistingi nthepredic. tivecontrolofnonlinearsystemandfurtherresearchtrendsarealsodiscussed. Keywords:predictivecontrol;errorcorrection;neuralnetwork;nonlinearsystem责任编辑:张秀兰。

遗传算法的广义回归神经网络建模方法孔国利;张璐璐【摘要】Concerning the problems that it is hard to define the smooth factors of generalized regression neural network,which impacts the accuracy and generalization ability of model,a high precision modeling method based on optimizing generalized re-gression neural network using genetic algorithm was proposed.The fitness function based on generalized regress neural network was set to indicate relationship between the error of predicted value and smooth factors.Genetic algorithm was used to optimize the smooth factors to minimize the fitness function,and the accuracy of model was increased.Experimental results show that, compared with the traditional generalized regression neural network,the root-mean-square error,mean absolute error and ave-rage relative error decreased by 89.45%,91.53%,97.65% using the proposed methodrespectively.Therefore,the proposed method can improve the accuracy and generalization ability of the model and provides a modeling method for the complex indust-rial nonlinear system.%针对广义回归神经网络中光滑因子难以确定,影响建模精度以及模型泛化能力等问题,提出一种基于遗传算法优化广义回归神经网络的高精度建模方法.以广义回归神经模型为基础构建测试样本,预测误差与光滑因子之间的函数,作为适应度函数;通过遗传算法对光滑因子进行优化,以模型输出值误差达到最小时的光滑因子为最优,提高网络模型精度.测试函数建模实验结果表明,与传统的广义回归神经网络相比,该方法预测值均方根误差下降89.45%,平均绝对误差下降91.53%,平均相对误差下降97.65%,能有效提高建模精度和模型泛化能力,为复杂工业的非线性系统建模提供了有效的方法.【期刊名称】《计算机工程与设计》【年(卷),期】2017(038)002【总页数】6页(P488-493)【关键词】非线性系统;广义回归神经网络;遗传算法;建模;光滑因子【作者】孔国利;张璐璐【作者单位】中州大学信息工程学院,河南郑州 450000;中州大学信息工程学院,河南郑州 450000【正文语种】中文【中图分类】TP391.41随着工业系统过程复杂性的提高，控制的应用日益广泛，而控制理论方法的应用是基于系统辨识技术的支持[1]。

DOI:10.19995/10-1617/F7.2024.03.093美元汇率波动特征分析及其预测研究张赢今(长沙理工大学 湖南长沙 410000)摘 要：美元作为全球本位币，在全球计价结算、国际借贷、国际储备中的占比都遥遥领先。

从历史数据来看，美元汇率的巨幅波动会影响全球货币金融市场的稳定，引发国际金融危机。

本文利用广义自回归条件异方差模型(GARCH)及其拓展模型分析美元汇率的波动特征，利用向量自回归(VAR)模型分析美元汇率与国际黄金价格和美元兑换人民币汇率之间的关系，最终利用长短期记忆神经网络(LSTM)预测美元汇率。

主要结论如下：(1)美元指数对数收益率时间序列存在杠杆效应，且负面影响即美元贬值对序列未来波动率的影响大于正面影响即美元升值；(2)美元指数对国际黄金价格的冲击大部分为负，且国际黄金价格对美元指数的冲击远小于美元指数对黄金价格的冲击；(3)美元指数的变动对人民币汇率有一定程度的影响，美元指数的波动会对近几年的人民币汇率有负冲击影响，为美元指数上升即美元升值，人民币兑美元汇率会下降；(4)LSTM模型在预测美元汇率走势方面具有可行性，模型效果较好。

本研究仅供参考。

关键词：美元汇率；美元指数；广义自回归条件异方差模型；向量自回归模型；长短期记忆神经网络模型；人民币国际化本文索引：张赢今.美元汇率波动特征分析及其预测研究[J].商展经济,2024(03):093-096.中图分类号：F821；F820.3 文献标识码：A1 绪论1.1 研究背景和意义1.1.1 研究背景1973年，布雷顿森林体系垮台，通过IMF理事会讨论，牙买加体系形成。

1978年10月，美元对其他主要的西方汇价跌至历史最低点，引起了整个西方货币金融市场的动荡。

国际货币体系的核心是全球本位币，美元又是全球本位币，其在全球计价结算、国际借贷、国际储备中的占比都遥遥领先，美元汇率的大幅波动会对全球金融市场造成巨大冲击。

广义线性模型在社会科学研究中的应用广义线性模型（Generalized Linear Model, GLM）是一种统计学的分析方法，被广泛应用于社会科学的研究中。

在社会科学研究中，数据的特征通常是非正态分布、异方差性和离群值等，这些特征使得传统的线性回归模型无法适应社会科学中的数据分析，而GLM则可以很好地处理这些问题。

本文将探讨GLM在社会科学研究中的应用。

一、GLM的概念和原理GLM是一种广义的线性回归模型，在传统的线性回归模型基础上，将响应变量的概率分布扩展为了更广泛的分布类型，可以通过不同的分布类型解决非正态分布的问题。

GLM使用的是最大似然估计方法，通过最大化似然函数，求得模型参数。

GLM的模型可以表示为：Y = g(β0 + β1X1 + β2X2 + … + βpXp) + ε其中，Y表示响应变量，g()函数为链接函数，将线性关系映射到响应变量上，β0到βp表示模型的系数，X1到Xp表示自变量，ε是误差项。

二、GLM模型的分布参数和链接函数GLM中响应变量的概率分布可以是正态分布、泊松分布、二项分布、伽马分布等。

以下列举几种在社会科学研究中经常使用的分布类型：1. 正态分布：适用于连续型变量，例如年龄、身高、收入等。

链接函数为恒等函数(identity)，即Yi = β0 + β1X1i + β2X2i + … + βpXpi + εi。

2. 泊松分布：适用于计数型变量，例如犯罪率、事故率等。

链接函数为对数函数(log)，即log(Yi) = β0 + β1X1i + β2X2i + … +βpXpi + εi。

3. 二项分布：适用于二元变量，例如投票、婚姻等。

链接函数为对数几率函数(logit)，即log(Yi/1-Yi) = β0 + β1X1i + β2X2i + … + βpXpi + εi。

4. 伽马分布：适用于右偏的连续型变量，例如医疗费用、保险理赔等。

链接函数为倒数函数(reciprocal)，即1/Yi = β0 + β1X1i + β2X2i + … + βpXpi + εi。