基于RBF网络的混沌动力系统辨识

基于RBF 网络的混沌动力系统辨识X李冬梅,王正欧(天津大学系统工程研究所,天津300072) 摘　要:提出用RBF 神经网络对混沌动力系统进行辨识,设计了一个三层RBF 网络结构,仿真实验说明了RBF 网络用于学习混沌动力系统时的基本性质.用辨识模型重建吸引子方法定性地评价辨识模型,通过计算辨识模型的L yapuno v 指数定量地评价辨识模型的性能,同时推导了R BF 网络模型L yapunov 指数的计算公式.仿真结果表明,该辨识模型能很好地逼近原混沌动力系统,准确地体现原混沌系统的动力学特性.关键词:混沌系统辨识;R BF 神经网络;混沌动力系统中图分类号:T P 183 文献标识码:A 文章编号:0493-2137(2002)02-0191-05 混沌是自然界与人类社会普遍存在的运动形态,其本质是系统对初值有着敏感的依赖性,由此导致了混沌系统只具备短期可预测性,而系统的长期行为是不可预测的.对于混沌系统的研究现已成为动力系统研究的中心内容之一.研究混沌系统,首先要对其进行辨识,得到辨识模型,然后才能把握系统的动力学特性和变化规律,进行预测、控制或同步等方面的研究.对混沌系统的辨识效果直接影响着各项研究的有效性和准确程度,因此混沌系统的辨识在混沌系统的研究中占有举足轻重的地位,是混沌系统研究的基础. 人工神经网络具有自学习、自组织和逼近任意非线性映射的能力,因此,神经网络技术已开始应用于混沌系统的辨识研究中.文献[1～5]探讨了BP 网络在混沌系统辨识中的应用问题.用BP 网络进行混沌系统的辨识,辨识精度较低,收敛速度很慢,运行时间相对较长. 本文采用径向基函数神经网络(RBF 网络)对混沌系统进行辨识.RBF 网络具有良好的逼近任意非线性映射和处理系统内在难以解析表达的规律性的能力,并且具有极快的学习收敛速度.作者探讨了RBF 网络用于混沌系统辨识时的基本性质,采用定性和定量两类方法来评价辨识模型,实验结果表明,此方法辨识精度高,收敛速度极快,运行时间很短,辨识模型能准确地逼近原混沌系统,辨识效果远远优于用BP 网络所得到的模型.1　待辨识的混沌动力系统 本文重点研究了以下两种离散动力系统的辨识问题,分别用这两种系统产生的数据训练RBF 网络. 1)H non m ap x (t +1)=y (t )+1-ax 2(t )(1) y (t +1)=bx (t )(2)当参数a = 1.4,b =0.3时,H no n 系统将处于混沌状态,其奇怪吸引子如图1所示.本文假设x 和y 都是可观测的.图1　H non 系统的奇怪吸引子Fig .1　Strange attractor of H non system 天津大学学报　第35卷　第2期2002年3月JO U RN A L OF T IA N JIN U N IV ER SIT Y V ol.35　N o.2　M ar.　2002X 收稿日期:2001-12-20. 作者简介:李冬梅(1963- ),女,博士生. 2)Logistic map x t +1=K x t (1-x t )(3)取K =4标准混沌的情况,Logistic map 的奇怪吸引子如图2所示.图2　Logistic 系统的奇怪吸引子Fig .2　Strange attractor of logistic system2　RBF 网络训练 采用RBF 网络来学习上述混沌系统,网络结构如图3所示,网络的输入神经元和输出神经元的个数与原混沌动力系统相同.RBF 网络完成映射f :R n→R m,其数学表达式为 f i (x )=H 0+∑hj =1H ij<(‖x -c j ‖)(4) i =1,2,…,m式中:x ∈R n为网络的输入向量;<(õ)为径向基函数,完成从R n→R 的非线性变换.图3　RBF 网络结构Fig .3　Structure of the RBF network本文中径向基函数取为高斯函数 <(‖X -C j ‖)=exp(-‖X -C j ‖2/B 2)(5)式中:B 为常数,在高斯函数中称为宽度值;‖õ‖为欧几里德距离;H ij (1≤i ≤m ,1≤j ≤h )为网络输出层连接权值;C j 为网络中心点,H0为网络偏置. 在模型的训练阶段,参照文献[2]选取下列四组训练数据集. 1)去掉瞬态数据:对H non m ap 和Logistic m ap 都取t =5001至t =5100的数据,样本数为100个. 2)包含瞬态数据,对H non m ap 和Logistic m ap 都取t =1至t =100的数据.样本数为100个. 3)取较多的样本个数,对H non map 取t =5001至t =5400的数据,样本数为400个.对Log istic m ap 取t =5001至t =5200的数据,样本数为200个. 4)去掉少量的瞬态数据:对H no n map 和Logistic m ap 都取t =501至t =600的数据,样本数为100个. 为比较训练后网络的拟合能力,计算出如下的误差指标: RM SE =1p m ∑Pp =1∑mi =1(D p i -O p i )2(6)式中:P 为训练模式数;m 为输出神经元(输出节点)个数;D p i 和O pi 分别为对应第P 个模式和第i 个输出神经元的期望输出和实际输出.3　训练网络的评价方法 为了评价训练网络对原混沌系统的辨识效果,采用定性和定量两类方法研究训练网络的辨识能力.3.1　定性评价 通过用递归网络重建吸引子的方法来定性地评价训练网络(辨识模型).将训练网络修改成递归结构,把训练网络的输出端反馈到相应的输入端,如图4所示.以某初始值对递归网络进行迭代时,画出每次迭代时网络的输出值,就可得到辨识模型的吸引子.通过对原混沌系统的吸引子和重建的吸引子的比较来评价训练网络的性能.3.2　定量评价 上述递归网络可以看作离散动力系统,可以通过计算递归网络的Ly apuno v 指数来定量地评价训练网络.Lyapunov 指数能定量刻划动力系统对初始条件的敏感依赖性,正的Lyapunov 指数的存在与否可以判定系统是否达到混沌状态.・192・天津大学学报 2002年　第35卷　第2期　 采用下面的算法来计算Lyapunov 指数. 令G (õ)表示一个非线性映射,它定义了一个n 维动力系统 v (t +1)=G (v (t ))(7)式中:v (t )表示一个n 维向量.对式(7)表示的映射进行线性化,可以得到 D v (t +1)=JG (v (t ))D v (t )(8)式中:JG (v (t ))为G (v (t ))的Jaco bi 矩阵.图4　用于重建吸引子的递归网络结构Fig .4　Architecture of the recurrent networkto reconstruct attractor 用标准正交向量u i (t )(i =1,2,…,n )来计算D v (t ),可以取u i (t 0)作为初始标准正交向量. u i(t 0)=(u 1,u 2,…,u i,…,u n )T(9)式中:u i =1,u j =0,(j ≠i ).向量e i (t +1)可以通过下式的迭代来得到. e i (t +1)=JG (v (t ))u i (t )(10)式中:u i (t )为e i (t )的标准正交化向量,采用Gram-Schmidt 正交化方法计算.e ′i (t )= e i (t ) (i =1)e i (t )-∑i -1j =1〈e i (t ),u j (t )〉u j (t )　(i ≥2)(11) u i (t )=e ′i (t )‖e ′i (t )‖(12)其中〈,〉表示内积. 经过上述迭代得到第i 个Ly apuno v 指数[2]为 K i =lim N →∞1N ∑t 0+Nt =t 0+1ln ‖e ′i (t )‖(13) 上述算法中,只有映射的Jacobi 矩阵与动力系统有关.用JG Hen (õ)、JG Log (õ)和JG RBF 分别表示H non map 、Logistic m ap 和RBF 网络的Jaco bi 矩阵. JG Henx (t )y (t )=-2ax (t )1b 0(14) JG Log (x (t ))=K (1-2x t )(15) JGRBFx 1x 2 x n=5f 1(x )5x 15f 1(x )5x 2…5f 1(x )5x n 5f 2(x )5x 15f 2(x )5x 2…5f 2(x )5x n 5f m (x )5x 15f m (x )5x 2…5f m (x )5x n(16)式中:　5f i (x )5x k=5H 0+∑hj =1H ij<(‖x -c j ‖)5x k=5∑hj =1Hij ex p[-(x -c j )T(x -c j )/B 2]5x k=∑hj =1H ij -exp -(x -c j )T(x -c j )B 2×2B 2(x k -c jk )=∑hj =1-2H ijB2(x k -c jk )<(‖x -c j ‖)(17) i =1,2,…,m ; k =1,2,…,n 利用式(16)和式(17)来计算训练网络的Lyapunov 指数.4　数值仿真 采用RBF 网络对H non map 和Log istic m ap 进行学习,比较了对应于第2节提到的不同数据集的训练网络误差,按式(6)计算的RMSE 见表1,可以看出,网络误差的数值是相当小的.表1　RMSE 的数值Tab .1　Value of RMSE・193・　天津大学学报 李冬梅等:基于R BF 网络的混沌动力系统辨识 采用3.1中描述的方法分别重建了对应于两种混沌系统的训练网络的吸引子,如图5和图6所示,其中图5a 和图6a 对应于数据集(1),图5b 和图6b 对应于数据集(2). 从图中可以看出,用训练网络重建的吸引子与原系统的吸引子基本一致. 采用 3.2中描述的方法计算训练网络的Lyapunov 指数,计算结果见表2和表3,训练网络的Lyapunov 指数与原系统的Lyapunov 指数相差不大.与其它方法得到的辨识模型相比,其Lyapunov 指数明显好于其它模型的计算结果.表2　对应于H non map 训练网络的Lyapunov 指数Tab .2　Lyapunov exponents of the trained network corresponding to the H non map网 络K 1K 2 对应于数据集(1)的训练网络0.4162- 1.6200对应于数据集(2)的训练网络0.4180- 1.6217对应于数据集(3)的训练网络0.4181- 1.6221对应于数据集(4)的训练网络0.4170- 1.6205文献[2]中得到的模型0.2928- 1.6069文献[4]中得到的模型0.4152　未求出文献[7]中得到的模型0.4197　未求出原系统0.4169- 1.620 与BP 网络比较,RBF 网络具有更快的收敛速度,而且训练误差也比较小,表4列出了分别用RBF 网络(a)　对应于数据集(1)(b)　对应于数据集(2)图5　对应于H non map 的训练网络的吸引子Fig .5　Attractor of the trained networkcorresponding to the H non map和BP 网络辨识H no n map 时的比较结果.(a)　对应于数据集(1)(b)　对应于数据集(2)图6　对应于Logistic map 的训练网络的吸引子Fig .6　Attractor of the trained network corresponding to the Logistic map・194・天津大学学报 2002年　第35卷　第2期　表3　对应于Logistic map训练网络的Lyapunov指数Tab.3　Lyapunov exponents of the trained networkcorresponding to the Logistic map训练网络 K对应于数据集(1)0.6931对应于数据集(2)0.6931对应于数据集(3)0.6930对应于数据集(4)0.6928文献[7]中得到模型0.6879原系统0.693表4　RBF网络与BP网络的比较Tab.4　Comparison between the RBFnetwork and BP networks网络RM S E ep ochs样本个数RM SE网络 5.7682×10-745100作者训练BP网络 1.3×10-35×105100文献[2] 3.61×10-31×106100文献[6]9.2369×10-4未注明180文献[7] 2.5×10-3未注明1805　结　语 混沌是确定性系统内在的随机性,其内部有着确定的规律性,这种规律性一般难以解析表达.RBF网络具有逼近任意非线性映射和处理复杂信息的能力,且具有极快的收敛速度.本文将RBF网络用于对混沌系统的辨识研究中,实验结果表明,辨识模型对混沌系统有很高的拟合能力,用辨识模型重建的吸引子与原系统的吸引子基本一致,辨识系统的Lyapunov指数与原系统的Lyapunov指数的误差较其它现有方法更小,说明本辨识模型能更好地逼近混沌系统.参考文献:[1]　P rincipe J,R athie A,Kuv J.Pr edict ion o f chao tic t imeser ies w ith neur al net wo rks and the lssue of dy namicmo deling[J].Bifur cat ion and Chaos,1992,2(4):989-996.[2]M asahar u A dachi,M ako to K otani.Ident ification o f chao ticdynamical systems with back-pr opaga tio n neural netw or ks[J].IEICE T ra ns.F undamentals,1994,E77-A(1):324-334.[3]Gustav o Deco,Bernd Sch Rmann.N eur al learning o fchaotic system behav ior[J].I EI EC T r ans.F undament als.1994,E77-A(11):1840-1845.[4]　田彦涛,徐　明,陆佑方,等.基于Wiener模型的混沌系统辨识研究[J].控制与决策,2000,15(1):104-106. [5]　A lba no A M,Passamante A,Hedig er T,et al.U singneural net to loo k for chao s[J].Physica D,1992,58:1-9.[6]　Ram azan G encay.No nlinear prediction o f noise t imeseries w it h feedfo rw ar d net wo rks[J].Physics L ett ersA,1994,187:397-403.[7]　Ra mazan G encay,L iu T ung.N onlinear mo deling andprediction with feedfor w ard and recurr ent net wo rks[J].P hysica D,1997,108:119-134.Identification of Chaotic Dynamical Systems Basedon RBF Neural NetworksLI Dong-mei,WANG Zheng-ou(Institute o f systems Engineer ing,T ianjin U niv ersit y,T ianjin300072,China)Abstract:Chaotic dynamical systems can be identified by R BF neur al netw o rks.A thr ee-layer RBF netw or k str uct ur e w as designed and the fundamental pr o per ties of t he R BF net wo rks w ere clarified t o learn chaotic dynamical systems thr oug h som e numerical exper iments.A qualitative evaluatio n o f the ident ified models was made w it h the reco nstr uct ion o f an att racto r by the identified mo dels,and a quant itative ev aluat ion o f the identified mo dels was made with ca lculat ion o f t he L y apunov exponents of the identified mo dels,to o.T he fo r mula of t he L y apunov ex po nents o f RBF net wo rks models is derived.Simulatio ns show that the ident ified models can appro ach t he o riginal chaotic dy nam ical sy st ems a nd ex tract t he dy namical char act eristics o f the or ig inal chao tic systems. keywords:chaot ic systems ident ification;R BF neur al netw o rks;chaot ic dy namical sy stems ・195・　天津大学学报 李冬梅等:基于R BF网络的混沌动力系统辨识。