一种新填充函数算法优化的小波

２００７年第２１卷第２期测试技术学报Ｖｏｌ．２１　Ｎｏ．２　２００７（总第６２期）JO U R N A L O F TE ST A N D M E A SU R E M E N T TE C H N O L O G Y（ＳｕｍＮｏ．６２）文章编号：１６７１-７４４９（２００７）０２-０１７０-０８一种新填充函数算法优化的小波网络及其应用黄宜军１，２，邬长安１，熊　炎１（１．信阳师范学院计算机系，河南信阳４６４０００；２．西北工业大学自动化学院，陕西西安７１００７２）摘　要：　小波网络的结构及参数的寻优是小波网络应用中的一个关键问题．为达到寻优速度快、优化效果好的目的，提出了一个新的填充函数，把基于此函数的填充函数法与ＢＰ算法相结合，提出一种训练小波网络的全局优化新算法．并将由此算法优化得到的小波网络应用于飞控系统的故障诊断中．计算机仿真结果表明，该算法在训练小波网络时，收敛速度优于采用进化规划算法的训练速度，由此得到的小波网络用于飞控系统的故障诊断具有泛化性强、收敛较快、诊断较准确等优点．关键词：　小波网络；填充函数；全局优化；飞控系统；故障诊断中图分类号：　ＴＰ３０１ 文献标识码：ＡA W avel et N et w orks O pt i m i zed by a N ew F i l l ed F unct i onA l gori t hm and It s A ppl i cat i onＨＵＡＮＧＹｉ-ｊｕｎ１，２，ＷＵＣｈａｎｇ-ａｎ１，ＸＩＯＮＧＹａｎ１（１．Ｄｅｐｔ．ｏｆＣｏｍｐｕｔｅｒＳｃｉｅｎｃｅａｎｄＴｅｃｈｎｏｌｏｇｙ，ＸｉｎＹａｎｇＮｏｒｍａｌＵｎｉｖｅｒｓｉｔｙ，Ｘｉｎｙａｎｇ４６４０００，Ｃｈｉｎａ；２．ＣｏｌｌｅｇｅｏｆＡｕｔｏｍａｔｉｏｎ，ＮｏｒｔｈｗｅｓｔｅｒｎＰｏｌｙｔｅｃｈｎｉｃａｌＵｎｉｖｅｒｓｉｔｙ，Ｘｉ′ａｎ７１００７２，Ｃｈｉｎａ）A bst ract：　Ｉｔ′ｓａｎｉｍｐｏｒｔａｎｔｐｒｏｂｌｅｍｔｏｏｐｔｉｍｉｚｅｔｈｅｓｔｒｕｃｔｕｒｅａｎｄｐａｒａｍｅｔｅｒｓｏｆｗａｖｅｌｅｔｎｅｔｗｏｒｋ．ＡｎｅｗｆｉｌｌｅｄｆｕｎｃｔｉｏｎａｎｄａｎｏｖｅｌｇｌｏｂａｌｏｐｔｉｍｉｚａｔｉｏｎｔｅｃｈｎｉｑｕｅｗｈｉｃｈｃｏｍｂｉｎｅｓｔｈｅｆｉｌｌｅｄｆｕｎｃｔｉｏｎａｎｄＢＰａｌｇｏｒｉｔｈｍａｒｅｐｒｅｓｅｎｔｅｄｔｏｏｐｔｉｍｉｚｅｔｈｅｗａｖｅｌｅｔｎｅｔｗｏｒｋｅｆｆｉｃｉｅｎｔｌｙ．Ｉｎｔｈｅａｌｇｏｒｉｔｈｍ，ｔｈｅＢＰａｌｇｏｒｉｔｈｍｆｉｎｄｓｏｎｅｏｆｌｏｃａｌｍｉｎｉｍａｌｐｏｉｎｔｓ，ｔｈｅｆｉｌｌｅｄｆｕｎｃｔｉｏｎｍｅｔｈｏｄｆｉｎｄｓｔｈｅｐｏｉｎｔｔｈａｔｉｓｌｏｗｅｒｔｈａｎｔｈｅｍｉｎｉ-ｍａｌｐｏｉｎｔｐｒｅｖｉｏｕｓｌｙｆｏｕｎｄ．Ｂｙｒｅｐｅａｔｉｎｇｔｈｅｓｅｐｒｏｃｅｓｓｅｓ，ａｇｌｏｂａｌｍｉｎｉｍａｌｐｏｉｎｔｃａｎｂｅｏｂｔａｉｎｅｄａｔｌａｓｔ．ＣｏｍｐａｒｅｄｗｉｔｈｕｓｕａｌＢＰｔｒａｉｎｉｎｇａｌｇｏｒｉｔｈｍ，ｔｈｉｓｎｅｗｇｌｏｂａｌｏｐｔｉｍｉｚａｔｉｏｎａｌｇｏｒｉｔｈｍｉｓｍｏｒｅｅｆｆｉｃｉｅｎｔａｎｄｈａｓａｈｉｇｈｅｒａｃｃｕｒａｃｙｉｎａｐｐｌｉｃａｔｉｏｎｏｆｔｈｒｅｅｋｉｎｄｓｏｆｃｏｍｍｏｎｆａｕｌｔｓｄｉａｇｎｏｓｉｓｏｆｆｌｉｇｈｔｃｏｎｔｒｏｌｓｙｓｔｅｍ．K ey w ords：ｗａｖｅｌｅｔｎｅｔｗｏｒｋ；ｆｉｌｌｅｄｆｕｎｃｔｉｏｎ；ｇｌｏｂａｌｏｐｔｉｍｉｚａｔｉｏｎ；ｆｌｉｇｈｔｃｏｎｔｒｏｌｓｙｓｔｅｍ；ｆａｕｌｔｄｉａｇｎｏｓｉｓ０　引　言目前，小波网络的训练及调节算法以ＢＰ算法及其改进算法最为普遍．但是这些算法均为局部优化算法，训练结果与初始权值的选择有关，虽然可以选取多组初始权值，多次训练，选用最好的一组结果，但是这样做不仅需要花费大量时间，而且如何选取初始权值，目前尚无理论指导．数学上各种随机型全局优化算法被相继提出，如遗传算法、模拟退火法、随机搜索方法和下山单纯磁收稿日期：２００６-０９-０４　作者简介：黄宜军（１９６５－），男，教授，博士，主要从事模式识别与智能控制，激光精密测控研究．形搜索方法［１-４］．这些方法的搜索过程是建立在简单而直观的概念基础上的，避免了求导运算．但这些方法对于大规模连续系统优化问题来说，其收敛速度较慢，而且在确定下一步搜索方向时都要使用随机数发生器．理论上，它们的随机性保证了在给定计算时间内得到最优解的概率非零，然而实际上，为了得到给定问题的最优解，将要花费非常可观的计算时间．而且这些方法大部分是基于经验的，其解析解很难求得．葛人溥教授在１９８１年提出了确定型全局优化的填充函数法［５］，同随机型方法相比较，确定型法具有寻优速度快、优化效果好的特点．然而现有的填充函数，或者由于是双参数，难调节，或者由于参数在指数上，当参数值较大时计算容易出现溢出，其计算性能不理想．本文构造了一种新的易于计算的单参数填充函数，证明了新构造的函数具有填充函数应有的性质；把填充函数法与ＢＰ算法相结合，提出一种训练小波网络的混合型全局优化新算法．该算法首先由ＢＰ算法得到一个局部极小点，然后利用填充函数使ＢＰ算法跳出局部最优，得到一个更低的极小点，重复此过程最终求得全局最优解．将该训练算法建立的小波网络用于某型飞机飞控系统的状态及故障监测．１　新的填充函数的构造填充函数法的基本思想是：设x l 是F （x ）的一个已知局部极小点，构造一个称为填充函数的T （x ），使得x l 为T （x ）的极大点，又T （x ）在F （x ）比F （x １）高的盆中没有极小点和鞍点，但在F （x ）比F （x １）低的盆中有极小点或鞍点x ′．再以x ′为新的初始点极小化F （x ）并找到F （x ）的一个新的极小点x ２，使得F （x ２）＜F （x １）．用x ２代替x l ，重复以上过程，即可找到F （x ）的全局极小点了．在已有的填充函数中，比较常见的有以下三种［６］F （x ，r ，q ）＝ｅｘｐ（－‖x －x １‖２／q ）／（r ＋F （x ）），（１）F （x ，r ，q ）＝－（q ２ｌｎ（r ＋F （x ））＋‖x －x １‖p ，（２）F （x ，A ）＝－（F （x ）－F （x １））ｅｘｐ（A ‖x －x １‖p）．（３）这里，p 取１或２，r ，q 以及A ＞０是计算过程中需要调整的参数．式（１）和（２）为双参数，调节起来比较麻烦、费时．式（３）为单参数，可是只有当A 很大时，才能成为x l 处的填充函数，式（３）的参数A 在指数上，当A 很大时计算容易产生溢出，计算性能不理想．为了克服这些填充函数的不足，本文构造了一种新的填充函数，该填充函数为单参数，且参数不在指数上，易于调节和计算．假定F （x ）二次连续可微，且ｌｉｍ‖x ‖→∞F （x ）＝＋∞．因此可以找到一个有界闭域Ω∈R n，使得F （x ）的总体极小点在Ω内．定义１　设x ′是F （x ）的一个极小点．x ′的盆是一个含有x ′的连通区域B ．以其中任一点x ∈B 出发的下降轨线都收敛于x ′，但是从任何一点x 臭B 出发，其下降轨线都不收敛于x ′．假设x ＾′是F （x ）的一个极大点，x＾′的山丘是F （x）在x＾′处的盆．定义２　x ′的一个简单盆是含于B 中的一个连通集合S x ′；对任何x ∈S x ′，x ≠x ′；不等式（x －x ′）Ｔ楚F （x ）＞０成立，并且整个线段x －x ′炒S x ′．提出以下新的填充函数T （x ，A ）＝－［（F （x ）－F （x １））（１＋A ‖x －x １‖）］，A ＞０．（４）２　新函数的填充函数性质证明文献［７］定义了填充函数的基本性质，本节证明T （x ，A ）具有这些性质．由式（４）有１７１（总第６２期）一种新填充函数算法优化的小波网络及其应用（黄宜军等）楚T （x ，A ）＝－［楚F （x ）（１＋A ‖x －x １‖）＋A （F （x ）－F （x １））x －x １‖－１‖］．（５） 定理１　假设x １是F （x ）的已知（局部）极小点，则x １是T （x ，A ）的极大点，无论A 取任何正数值．证明　由式（４）知，当F （x ）＞F （x １）时，特别当x ∈B （F （x ）在x １处的盆）时有T （x ，A ）＜０，而T （x １，A ）＜０，所以x １是T （x ，A ）的一个局部极大点．定理２　假设F （x ）是可微函数，且F （x ）＞F （x １），d ∈R n是一个给定的方向，若下列条件之一成立，则d 是T （x ，A ）在x 处的一个下降方向．d Ｔ楚F （x ）≥０，d Ｔ（x －x １）＞０，（６）d Ｔ楚F （x ）＞０，d Ｔ（x －x １）≥０．（７） 证明　由式（５），（６），（７）有d Ｔ楚T （x ，A ）＝－［d Ｔ楚F （x ）（１＋A ‖x －x １‖）＋A （F （x ）－F （x １））d Ｔ（x －x １）‖－１‖］＜０．这说明d 是T （x ，A ）在x 处的一个下降方向．特别的，当x ∈S x ′为F （x ）在x １处的S 盆，且x ≠x １，则T （x ，A ）在x 处沿（x －x １）是下降的．于是整个S x ′变成了T （x ，A ）的S 山丘．还有，在每个满足F （x ）＞F （x １）的F （x ）的静止点x 处，条件（６）中d Ｔ楚F （x ）≥０显然成立，从而式（６）中的d 是T （x ，A ）在x 处的一个下降方向．定理３　假设F （x ）是可微函数，且F （x ）＞F （x １），d ∈R n是一个给定的方向，若下列条件同时成立，则d 是T （x ，A ）在x 处的一个下降方向．d Ｔ楚F （x ）＜０，d Ｔ（x －x １）＞０，（８）A ＞－d Ｔ楚F （x ）‖x －x １‖（（）－（１））Ｔ（－１）＋Ｔ楚（）‖－１‖２．（９） 证明　由式（５）知，d Ｔ楚T （x ，A ）＜０等价于d Ｔ楚F （x ）（１＋A ‖x －x １‖）＋A （F （x ）－F （x １））d Ｔ（x －x １）‖x －x １‖＞０，即A ＞－d Ｔ楚F （x ）‖x －x １‖（（）－（１））Ｔ（－１）＋Ｔ楚（）‖－１‖２．定理得证．如果x ０是T （x ，A ）满足条件F （x ０）＞F （x １）的静止点，则由楚T （x ，A ）＝０，有楚F （x ０）＝－A （F （x ０）－F （x １））（x ０－x １）（１＋A ‖x ０－x １‖）‖x ０－x １‖．从而有A ［（F （x ０）－F （x １））‖x ０－x １‖＋‖楚F （x ０）‖‖x ０－x １‖２］＝‖楚F （x ０）‖‖x ０－x １‖．也就是说，当A ＞‖楚F （x ）‖‖x －x １‖（（）－（１））‖－１‖＋‖楚（）‖‖－１‖２，（１０）T （x ，A ）不可能有任何极小点和鞍点．如果令L Ω＝ｓｕｐx ∈Ω‖楚F （x ）‖，L ＝ｉｎｆx ∈S ‖楚F （x ）‖，D Ω＝ｓｕｐx ∈Ω‖x －x １‖，D ＝ｉｎｆx ∈S ‖x －x １‖，h ＝ｍｉｎi ≠１［F （x i ）－F （x １）］，其中，x i 是满足条件F （x i ）＞F （x １）的F （x ）的极小点，则有以下结论．定理４　设F （x ）可微，F （x ）＞F （x １），h ＞０，则当A ＞L ΩD ΩhD ＋L D２．（１１）T （x ，A ）在x 处沿方向x －x １下降，T （x ，A ）在F （x ）的比F （x １）高的盆中没有任何极小点和鞍点．２７１测试技术学报２００７年第２期证明　取d ＝x －x １，则－d Ｔ楚F （x ）‖x －x １‖（（）－（１））Ｔ（－１）＋Ｔ楚（）‖－１‖＝－（x －x １）Ｔ楚F （x ）‖x －x １‖（F （x ）－F （x １））‖x －x １‖２＋（x －x １）Ｔ楚F （x ）‖x －x １‖２≤‖楚F （x ）‖‖x －x １‖（（）－（１））（－１）＋‖楚（）‖‖－１‖２≤L ΩD Ω＋２．从而，只要A ＞L ΩD Ω＋２，则式（９）和式（１０）同时成立，由定理２和定理３可知，T （x ，A ）在x 处沿着方向x －x １下降，同时由式（１０）的讨论知，只要式（１１）成立，T （x ，A ）在F （x ）的比F （x １）高的盆中没有任何极小点和鞍点．定理５　假设F （x ）是可微函数，且F （x ）＞F （x １），是一个给定的方向，若下列条件同时成立，则d 是T （x ，A ）在x 处的一个上升方向．d Ｔ楚F （x ）＜０，d Ｔ（x －x １）＞０，（１２） ２）　A ＜－d Ｔ楚F （x ）‖x －x １‖（F （x ）－F （x １））d Ｔ（x －x １）＋d Ｔ楚F （x ）‖x －x １‖．（１３） 证明　由式（５）知，d Ｔ楚T （x ，A ）＞０等价于d Ｔ楚F （x ）（１＋A ‖x －x １‖）＋A （F （x ）－F （x １））d Ｔ（x －x １）‖x －x １‖＜０．这也等价于式（１３）成立，所以在x 处d 是T （x ，A ）的一个上升方向．以上分析表明，新定义的函数T （x ，A ）完全具有文献［７］所定义的填充函数的基本性质．而且该填充函数为单参数，易于调节和计算；且参数不在指数上，避免了当A 很大时计算容易产生溢出的缺陷，提高了填充函数算法的鲁棒性．３　基于新填充函数的小波网络训练算法设有N 组训练数据对，网络输出节点数为M ，定义总误差和第k 个样本的误差如下［６］E （θ）＝１N∑Nk ＝１E （k ，θ），E （k ，θ）＝１∑M i ＝１（y i （k ）－y ＾i （k ，θ））２．这里，y i （k ），y ＾i （k ，θ）分别为输出层节点i 对第k 个样本的网络输出和期望输出，θ∈R n 为权值向量．训练小波神经网络，就是利用已知训练数据对，调整连接权系数以使总误差E （θ）最小．由于总误差函数E （θ）的最小值为０．实际训练过程中，可以以E （θ）小于预先指定的某个很小的正数为训练终止条件［６］．利用填充函数法训练小波网络的算法：１）给参数A 取一个初始值，在［０，１］区间取很小的随机数作为初始权值，并预先设置误差精度h ，利用ＢＰ算法（经加入反馈信号及偏差单元改进）得到E （θ）的一个局部极小点θ１；２）如果E （θ）＜h ，结束训练，θ１为最优权值．否则转３）；３）构造θ１处的填充函数T （θ，A ）＝－［F （θ）－F （θ１）（１＋A ‖－θ１‖）］；４）在θ１附近取一点θ０，比如θ０＝θ１＋δe j ，其中δ是很小的正数．e j 为第j 分量为１，其余分量全为０的单位向量．从θ０出发，极小化T （θ，A ），得到T （θ，A ）的极小点θ＾，终止准则为θ＾满足下列判据之一：①T （θ＾，A ）≥０；②（θ＾１－θ１）ＴΔT （θ＾，A ）≥０；③‖ΔT （θ＾，A ‖≤ε．其中ε是事先给定的精度．若θ＾落入目标函数的定义域之外，则取θ０为最优权值，训练结束．５）以θ＾为初始点，极小化E （θ），得到E （θ）的极小点θ２；６）如果E （θ２）≤E （θ１），令θ２→θ１，返回２）．３７１（总第６２期）一种新填充函数算法优化的小波网络及其应用（黄宜军等）７）如果E （θ２）＞E （θ１），放大A ，返回３）．４　应用实例４．１　某型飞机作动器的典型故障及其仿真模型作动器由舵机与助力器组成，输入信号由控制律提供，输出信号由助力器末端的线位移传感器获得．实际作动器系统是高阶非线性环节，其数学模型可简化为由二阶环节的作动器，速率限制和位置限制环节组成．二阶环节的作动器（不含助力器）传递函数为G （s ）＝k ω２n s ２＋２ζωn s ＋ω２n ＝δL （s ）U （s ）．其计算机仿真可用以下系统完成，见图１．仿真中考虑了舵面偏转角的饱和限制，也考虑了舵面偏转角速率的饱和限制．→→→→→·←←←·→→→→→F i g．１Ｓｃｈｅｍａｔｉｃｏｆａｓｉｍｕｌａｔｉｏｎａｃｔｕａｔｏｒ图１某型作动器仿真框图１Ｇａｉｎ７２８２４６＋－－－Ｇａｉｎ２－K Ｇａｉｎ８Ｇａｉｎ３－K －K３Ｏｕｔ１１ＴｒａｎｓｆｅｒＦｏｎ２s１Ｓａｔｕｒａｔｉｏｎ１ＴｒａｎｓｆｅｒＦｏｎ４１sＴｒａｎｓｆｅｒＦｏｎ３s １该作动器的典型故障是舵卡死、增益故障和恒定偏差．这三类故障都可以从输出信号反应出来．因此，我们通过改变作动器模型中的参数来构建这三种故障模型．有了以上正常的模型和各种故障模型，我们就可以利用计算机来仿真正常状况和故障状况了．４．２　ＷＮＮ的训练及仿真结果通过对作动器故障仿真获取关于作动器三个子故障模式的样本数据，用于训练及验证的故障数据结构如表１所示．表１　故障数据样本集T ab．１　Ｓｅｔｏｆｔｈｅｆａｕｌｔｓａｍｐｌｅｓｄａｔａ样本编号去噪故障数据向量P１２…８故障模式向量T故障１故障２故障３１P P …P １００２PP…P１００┆┆┆┆┆┆┆┆ 在学习训练之前，将所获得的数据集分成训练集、验证集和测试集三个部分．验证集和测试集均取为原样本集大小的１／４．对训练好的网络仿真的输出结果和目标结果进行线性回归分析，分析结果表明网络对三种故障的检测结果输出都很好，它们与目标输出的相关系数分别达到了０．９４８，１和０．９５５．为检测网络的诊断能力，重新采集了三组故障数据让网络进行诊断，对三个故障新数据的诊断结果见表２．４７１测试技术学报２００７年第２期表２　小波网络对三种故障的诊断结果T ab．２　ＲｅｓｕｌｔｓｏｆｄｉａｇｎｏｓｉｓｂｙＷＮＮ样本号所属故障诊　断　结　果故障１故障２故障３１故障１０．９６１２－３．５７ｅ－００６－０．０３８７６２故障２－０．１３５１１．０９３７０．０４１４３故障３０．０２９１０．０１２５０．９５８４ 从表２中可以看到，ＷＮＮ对三种故障都可以准确识别出来．４．３　与传统小波网络的比较文献［８］中对小波网络的训练是采用进化规划算法，与本文的训练算法相比，要达到相同的训练精度（Δe ≤１０－４），前者需要循环训练１００步，而本文的算法则是循环８０步就达到了预设精度；两种算法训练出来的小波网络对三种故障均能准确辩识．５　结　论小波神经网络训练及学习效率的提高是一个热点研究问题．本文将填充函数法用于训练小波神经网络，提出一种确定型全局优化算法．仿真结果表明：与传统的进化规划训练算法相比，用该算法可提高训练网络的速度，训练出来的小波神经网络用于飞控系统的故障诊断具有泛化性强、收敛较快、诊断较准确等优点．参考文献：［１］　ＤａｖｉｄＪＪ，ＦｒｅｎｚｅｌＪＦ．Ｔｒａｉｎｉｎｇｐｒｏｄｕｃｔｕｎｉｔｎｅｕｒａｌｎｅｔｗｏｒｋｓｗｉｔｈｇｅｎｅｔｉｃａｌｇｏｒｉｔｈｍｓ［Ｊ］．ＩＥＥＥＥｘｐｅｒｔ，１９９３，８（５）：２６-３３．［２］　ＫｉｒｋｐａｔｒｉｃｋＳ，ＧｅｌａｔｔＣＤ，ＶｅｃｃｈｉＭＰ．Ｏｐｔｉｍｉｚａｔｉｏｎｂｙｓｉｍｕｌａｔｅｄａｎｎｅａｌｉｎｇ［Ｊ］．Ｓｃｉｅｎｃｅ，１９８３，２２０（４５９８）：６７１-６８０．［３］　ＢａｂｅＮｅｃｔ．Ａｈｙｂｒｉｄａｌｇｏｒｉｔｈｍｓｆｏｒｆｉｎｄｉｎｇｔｈｅｇｌｏｂａｌｍｉｎｉｍｕｍｏｆｅｒｒｏｒｆｕｎｃｔｉｏｎｏｆｎｅｕｒａｌｎｅｔｗｏｒｋｓａｎｄｉｔｓａｐｐｌｉｃａ-ｔｉｏｎｓ［Ｊ］．ＮｅｕｒａｌＮｅｔｗｏｒｋｓ，１９９４，７（８）：１２５３-１２６５．［４］　ＮｅｌｄｅｒＪＡ，ＭｅａｄＲ．Ａｓｉｍｐｌｅｘｍｅｔｈｏｄｆｏｒｆｕｎｃｔｉｏｎｍｉｎｉｍｉｚａｔｉｏｎ［Ｊ］．ＴｈｅＣｏｍｐｕｔｅｒＪｏｕｒｎａｌ，１９６５，７：３０８-３１３．［５］　ＧｅＲｅｎｐｕ．Ａｆｉｌｌｅｄｆｕｎｃｔｉｏｎｍｅｔｈｏｄｆｏｒｆｉｎｄｉｎｇａｇｌｏｂａｌｍｉｎｉｍｉｚｅｏｆａｆｕｎｃｔｉｏｎｏｆｓｅｖｅｒａｌｖａｒｉａｂｌｅｓ［Ｃ］．ＤｕｎｄｅｅＢｉｅｎ-ｎｉａｌＣｏｎｆｅｒｅｎｃｅｏｎＮｕｍｅｒｉｃａｌＡｎａｌｙｓｉｓ，ＤｕｎｄｅｅＳｃｏｔｌａｎｄ，１９８１．［６］　李换琴，万百五．训练前向神经网络的全局优化新算法及其应用［Ｊ］．系统工程理论与实践，２００３（８）：４２-４７．ＬｉＨｕａｎｑｉｎ，ＷａｎＢａｉｗｕ．Ａｎｅｗｇｌｏｂａｌｏｐｔｉｍｉｚａｔｉｏｎａｌｇｏｒｉｔｈｍｆｏｒｔｒａｉｎｉｎｇｆｅｅｄｆｏｒｗａｒｄｎｅｕｒａｌｎｅｔｗｏｒｋｓａｎｄｉｔｓａｐｐｌｉ-ｃａｔｉｏｎ［Ｊ］．ＴｈｅｏｒｙａｎｄＡｐｐｌｉｃａｔｉｏｎｏｆＳｙｓｔｅｍＥｎｇｉｎｅｅｒｉｎｇ，２００３（８）：４２-４７．（ｉｎＣｈｉｎｅｓｅ）［７］　葛人溥，秦永峰．一类求多变量函数总体极小点的填充函数［Ｊ］．西安交通大学学报，１９８５，１９（２）：９３-１０２．［８］　黄宜军，章卫国，刘小雄．基于小波网络的飞控系统故障仿真建模及诊断［Ｊ］．计算机应用研究，２００６，２３（７）：７３-７５．ＨｕａｎｇＹｉｊｕｎ，ＺｈａｎｇＷｅｉｇｕｏ，ＬｉｕＸｉａｏｘｉｏｎｇ．Ａｐｐｌｉｃａｔｉｏｎａｎｄｒｅｓｅａｒｃｈｏｆｗａｖｅｌｅｔｎｅｕｒａｌｎｅｔｗｏｒｋｉｎｔｈｅｆａｕｌｔｄｉａｇｎｏ-ｓｉｓｆｏｒｆｌｉｇｈｔｃｏｎｔｒｏｌｓｙｓｔｅｍｓ［Ｊ］．ＡｐｐｌｉｃａｔｉｏｎＲｅｓｅａｒｃｈｏｆＣｏｍｐｕｔｅｒｓ，２００６，２３（７）：７３-７５．（ｉｎＣｈｉｎｅｓｅ）５７１（总第６２期）一种新填充函数算法优化的小波网络及其应用（黄宜军等）。