粒子群优化核极限学习机的变压器故障诊断
- 格式：pdf
- 大小：335.29 KB
- 文档页数：5
２０１５年５月 第３６卷第５期 计算机工程与设计
ＣＯＭＰＵＴＥＲ ＥＮＧＩＮＥＥＲＩＮＧ ＡＮＤ ＤＥＳＩＧＮ Ｍａｖ ２０１５ Ｖ０Ｉ．３６ Ｎｏ．５
粒子群优化核极限学习机的变压器故障诊断
裴飞，陈雪振，朱永利，遇炳杰
（华北电力大学控制与计算机工程学院，河北保定０７１００３）
摘要：核极限学习机（ｋｅｒｎｅｌ—ｂａｓｅｄ ｅｘｔｒｅｍｅ ｌｅａｒｎｉｎｇ ｍａｃｈｉｎｅ，ＫＥＬＭ）在分类性能方面优于支持向量机（ＳＶＭ），但仍
存在参数敏感性的缺陷。针对这一缺陷，提出一种结合Ｋ折交叉验证（ｋ－ｆｏｌｄ ｃｒｏｓｓ ｖａｌｉｄａｔｉｏｎ，Ｋ—ＣＶ）与粒子群优化
（ｐａｒｔｉｃｌｅ ｓｗａｒｍ ｏｐｔｉｍｉｚａｔｉｏｎ，ＰＳＯ）的ＫＥＬＭ分类器参数优化方法，将ＣＶ训练所得多个模型的平均准确率作为ＰＳＯ的适
应度评价函数，为ＫＥＬＭ的参数优化提供评价标准。将该方法应用于变压器故障诊断中，充分利用数量有限的样本数据，
提高ＫＥＬＭ的泛化性能。实验结果表明，相比结合网格搜索（ｇｒｉｄ）的ＫＥＬＭ、结合ＣＶ和Ｇｒｉｄ的ＫＥＬＭ以及结合ＰＳＯ
的ＫＥＬＭ，结合ＰＳＯ的ＣＶ参数优化方法具有更好的性能。
关键词：核极限学习机；粒子群优化；交叉验证；变压器故障诊断；参数优化
中图法分类号：ＴＰ１８ 文献标识号：Ａ 文章编号：１０００—７０２４（２０１５）０５—１３２７—０５
ｄｏｉ：１０．１６２０８／ｊ．ｉｓｓｎ１０００－７０２４．２０１５．０５．０４１
Ｔｒａｎｓｆｏｒｍｅｒ ｆａｕｌｔ ｄｉａｇｎｏｓｉｓ ｂａｓｅｄ ｏｎ ｐａｒｔｉｃｌｅ ｓｗａｒｍ ｏｐｔｉｍｉｚａｔｉｏｎ
ａｎｄ ｋｅｒｎｅｌ—ｂａｓｅｄ ｅｘｔｒｅｍｅ ｌｅａｒｎｉｎｇ ｍａｃｈｉｎｅ
ＰＥＩ Ｆｅｉ，ＣＨＥＮ Ｘｕｅ－ｚｈｅｎ，ＺＨＵ Ｙｏｎｇ—ｌｉ，ＹＵ Ｂｉｎｇ－ｊ ｉｅ
（Ｓｃｈｏｏｌ ｏｆ Ｃｏｎｔｒｏｌ ａｎｄ Ｃｏｍｐｕｔｅｒ Ｅｎｇｉｎｅｅｒｉｎｇ，Ｎｏｒｔｈ Ｃｈｉｎａ Ｅｌｅｃｔｒｉｃ Ｐｏｗｅｒ Ｕｎｉｖｅｒｓｉｔｙ，Ｂａｏｄｉｎｇ ０７１００３，Ｃｈｉｎａ）
Ａｂｓｔｒａｃｔ：Ｔｈｅ ｋｅｒｎｅｌ—ｂａｓｅｄ ｅｘｔｒｅｍｅ ｌｅａｒｎｉｎｇ ｍａｃｈｉｎｅ（ＫＥＬＭ）ｈａｓ ｂｅｔｔｅｒ ｃｌａｓｓｉｆｉｃａｔｉｏｎ ｐｅｒｆｏｒｍａｎｃｅ ｔｈａｎ ｔｈｅ ＳＶＭ，ｂｕｔ ｉｔ
ｓｔｉｌｌ ｈａｓ ｔｈｅ ｄｒａｗｂａｃｋ ｏｆ ｐａｒａｍｅｔｅｒ ｓｅｎｓｉｔｉｖｉｔｙ．Ｆｏｒ ｔｈｉｓ ｄｅｆｅｃｔ，ａ ｍｅｔｈｏｄ ｃｏｍｂｉｎｉｎｇ Ｋ－ｆｏｌｄ ｃｒｏｓｓ ｖａｌｉｄａｔｉｏｎ ａｎｄ ｐａｒｔｉｃｌｅ
ｓｗａｒｍ ｏｐｔｉｍｉｚａｔｉｏｎ（ＰＳ０）ｗａｓ ｐｒｏｐｏｓｅｄ ｔＯ ｏｐｔｉｍｉｚｅ ｔｈｅ ｐａｒａｍｅｔｅｒ ｏｆ ＫＥＬＭ ｃｌａｓｓｉ－ｆｉｅｒ，ｔｈｅ ａｖｅｒａｇｅ ａｃｃｕｒａｃｙ ｒａｔｅ ｏｆ ｔｈｅ ｍｕｌｔｉ～
ｐｉｅ ｍｏｄｅｌｓ ｇｅｎｅｒａｔｅｄ ｕｓｉｎｇ ｔｈｅ ＣＶ ｍｅｔｈｏｄ ｗａｓ ｕｓｅｄ ａｓ ｔｈｅ ｆｉｔｎｅｓｓ ｆｕｎｃｔｉｏｎ ｏｆ ＰＳＯ ｔｏ ｐｒｏｖｉｄｅ ａｎ ｅｖａｌｕａｔｉｏｎ ｃｒｉｔｅｒｉａ ｏｆ ＫＥＬＭ
ｃｌａｓｓｉｆｉｅｒ．Ａｎｄ ｔｈｉｓ ｐｒｏｐｏｓｅｄ ｍｅｔｈｏｄ ｗａｓ ｕｓｅｄ ｉｎ ｔｈｅ ｔｒａｎｓｆｏｒｍｅｒ ｆａｕｌｔ ｄｉａｇｎｏｓｉｓ ｔＯ ｍａｋｅ ｆｕｌｌ ｕｓｅ ｏｆ ｔｈｅ ｌｉｍｉｔｅｄ ｎｕｍｂｅｒ ｏｆ ｄａｔｅ
ｓａｍｐｌｅｓ ａｎｄ ｉｍｐｒｏｖｅ ｔｈｅ ｇｅｎｅｒａｌｉｚａｔｉｏｎ ｐｅｒｆｏｒｍａｎｃｅ ｏｆ ＫＥＬＭ．Ｅｘｐｅｒｉｍｅｎｔａｌ ｒｅｓｕｌｔ ｓｈｏｗ ｔｈａｔ ｃｏｍｐａｒｉｎｇ ｗｉｔｈ ｔｈｅ ｍｅｔｈｏｄ ｏｆ
ＫＥＬＭ ｂａｓｅｄ ｏｎ ｇｒｉｄ ｓｅａｒｃｈ，ＫＥＬＭ ｂａｓｅｄ ｏｎ ＣＶ ａｎｄ ｇｒｉｄ ｓｅａｒｃｈ ａｎｄ ＫＥＬＭ ｂａｓｅｄ ＰＳＯ。ｔｈｅ ｐｒｏｐｏｓｅｄ ｍｅｔｈｏｄ ｈａｓ ｂｅｔｔｅｒ ｐｅｒ—
ｆｏｒｍａｎｃｅ．
Ｋｅｙ ｗｏｒｄｓ：ｋｅｒｎｅｌ—ｂａｓｅｄ ｅｘｔｒｅｍｅ ｌｅａｒｎｉｎｇ ｍａｃｈｉｎｅｌ ｐａｒｔｉｃｌｅ ｓｗａｒｍ ｏｐｔｉｍｉｚａｔｉｏｎ；ｃｒｏｓｓ ｖａｌｉｄａｔｉｏｎ ｐｏｗｅｒｓ ｔｒａｎｓｆｏｒｍｅｒ ｆａｕｌｔ
ｄｉａｇｎｏｓｉｓ；ｐａｒａｍｅｔｅｒ ｏｐｔｉｍｉｚａｔｉｏｎ
０引 言
油中溶解气体分析法（ｄｉｓｓｏｌｖｅｄ ｇａｓ ａｎａｌｙｓｉｓ，ＤＧＡ）
是目前进行变压器故障诊断中使用较多的手段之一［ 。已
经在此基础上形成了ＩＥＣ推荐的三比值法、Ｒｏｇｅｒｓ法、
Ｄｏｒｎｅｒｂｕｒｇ法等传统方法，但传统的阈值检测手段存在着
编码边界过于绝对、编码需要人为划定和缺编码等缺 陷ｌ４ ｊ，导致在实际检测过程中准确率较低。新兴的智能方
法如ＢＰ神经网络存在需要调整参数多、训练速度慢、过拟
合和容易陷入局部极值的缺点，限制了其精度＿６ ］；贝叶斯
网络方法需要大量训练样本，而现有ＤＧＡ数据集无法满足
其训练需求［８３；ＳＶＭ可解决过度拟合和非线性高维识别问
题，但是其核函数需要受到梅西条件的限制，算法分类性
能受到参数影响大，且诊断输出为硬分割边界，训练速度
收稿日期：２０１４—０５—０８；修订日期：２０１４—０７—１５ 基金项目：河北省自然科学基金项目（Ｅ２Ｏ０９ＯＯ１３９２） 作者简介：裴飞（１９８７一），男，河北邯郸人，硕士研究生，研究方向为物联网与智能电网；陈雪振（１９８９一），男，河北沧州人，硕士研究
生，研究方向为人工智能及其应用；朱永利（１９６３一），男，河北衡水人，教授，博士生导师，ＣＣＦ高级会员，研究方向为网络化监控与智 能信息处理；遇炳杰（１９８９一），男，河北石家庄人，硕士研究生，研究方向为人工智能及其应用。Ｅ－ｍａｉｌ：ｐｅｉｆｅｉ．１９８７＠１６３．ｃｏｒｎ
・１３２８・ 计算机工程与设计 ２０１５年
较慢等情况［９］。
核极限学习机（ｋｅｒｎｅｂｂａｓｅｄ ｅｘｔｒｅｍｅ ｌｅａｒｎｉｎｇ ｍａｃｈｉｎｅ）
是Ｇｕａｎｇ－Ｂｉｎ Ｈｕａｎｇ在其所提出的ＥＬＭ算法之上结合核函
数所提出的改进算法。ＥＬＭ在保证网络具有良好泛化性能
同时，极大提高了前向神经网络学习速度，并避免了以ＢＰ
神经网络为代表的梯度下降训练方法的许多问题，如容易
陷入局部值、迭代量大等。ＫＥＬＭ不仅有ＥＬＭ算法的诸
多优势，并且结合了核函数，对线性不可分的模式进行非
线性映射到高维特征空间从而实现线性可分，进一步提高
了判断的准确率。然而，由于核函数的存在，导致了这种
算法对参数设置具有敏感性，所以本文拟采用粒子群优化
算法和交叉验证方法对ＫＥＬＭ参数进行优化，并将其应用
于变压器故障诊断中，以提高诊断准确率，降低调试参数
的工作量。
１ ＫＥＬＭ介绍
１．１ ＫＥＬＭ分类 ＥＬＭ是一种单隐藏层前向神经网络（ＳＬＦＮｓ）的训练
算法，ＳＬＦＮ模型可表示为ｌ】。］
＿厂（ｘ）一ｈ（ｘ）ｐ—Ｈｐ （１） 式中：ｒ样本输入，，（ ）——神经网络的输出，在分
类过程中其为类别向量，ｈ（ ）、Ｈ－一隐藏层特征映射矩
阵，卜隐藏层输出层链接权重。在ＥＬＭ算法中有
ｐ—Ｈｒ（ＨＨＴ＋ ）一Ｔ （２）
式中：卜训练样本的类标志向量组成的矩阵，Ｃ——正
规化系数。 在隐藏层特征映射ｈ（ ）未知的情况下，可将ＫＥＬＭ
的核矩阵定义如下所示ｌ＿１
ｎⅡ —ＨＨ ：．ＱⅡ＿Ｍ１，｝一＾（鼍） （ｘｊ）一Ｋ（墨，ｘ，）（３） 则可将式（１）变换为
＿Ｋ（ ， ｌ ］ ．
）一｝ ｉ ｌ（÷＋ ）一Ｔ （４）
ＬＫ（ 。ＸＮ）．Ｊ
使用径向基函数（ＲＢＦ）为核函数，即
Ｋ ｃ 一ｅ （一 ） ㈣
因此，正规化系数Ｃ和核函数参数ｓ是需要设定的参
数，Ｃ和Ｓ的设定是影响ＫＥＬＭ分类器性能的重要因素。
１．２ ＫＥＬＭ的性能分析
本节使用ＫＥＬＭ与ＳＶＭ在ＵＣＩ的Ｓｅｇｍｅｎｔ、Ｉｒｉｓ、
Ｄｉａｂｅｔｅｓ数据集上进行分类对比实验。
对于ＫＥＬＭ和ＳＶＭ，均采用ＲＢＦ核函数；使用网格
搜索对ＫＥＬＭ和ＳＶＭ的规则化系数Ｃ∈［２ 。，２ ］和核
函数参数Ｓ Ｅ［２ 。，２ 。］进行优化。表１为ＫＥＬＭ和ＳＶＭ
方法在各数据集上的训练时间、测试时间和分类准确率 的对比。
表１ ＫＥＬＭ与ＳＶＭ在不同数据集的分类性能比较
从表１可看出，ＫＥＬＭ的分类精度在所测试的数据集
上不低于ＳＶＭ分类器，并且训练时间明显小于ＳＶＭ。
为了说明ＫＥＬＭ分类器的分类性能对参数的敏感性，
表２列出了在不同参数的ＫＥＬＭ分类器在Ｄｉａｂｅｔｅｓ数据集
上的分类准确率。并通过图１直观的体现了分类准确率与
参数的关系。
表２参数Ｃ、Ｓ的选取对分类准确率的影响
ｃ一１０ｅ４时ｓ的选取对分类准确率的影响 Ｓ 准确率／ ０．１ １ １０ １００ １０００ １００００ ６４．９３ ６５．５８ ６７．５３ ７０．７７ ６１．６８ ７２．７３ ｓ＝１０ｅ４下Ｃ的选择对分类准确率的影响 Ｓ 准确率／
０．０１ ０．１ １ １０ １００ １０００ ６７．５３ ７３．３７ ７５．９７ ７４．Ｏ２ ７４．Ｏ２ ７５．３２
０ ０
８ ０ 《 ０
０ ２＾
图１ ＫＥＬＭ在Ｄｉａｂｅｔｅｓ数据集上分类准确率一参数曲面
通过表２可看出ＫＥＬＭ分类器的参数设置对其分类准
确率有着较大的影响，且通对过表２和图１的观察可知 第３６卷第５期 裴飞，陈雪振，朱永利，等：粒子群优化核极限学习机的变压器故障诊断
ＫＥＬＭ的分类准确率随着参数的变化存在着一些局部极值。
所以，分类器参数选择很大程度上影响着其分类性能。
２基于Ｐｓｏ的ＫＥＬＭ参数优化方法
选择ＫＥＬＭ最优参数是对正规化系数Ｃ和核函数参Ｓ
数的优化，将ＫＥＬＭ分类准确率记为ａＣＣ（ｃ，ｓ），参数ｃ和
Ｓ的上界分别为ａ和ｂ，下界均为０，则ＫＥＬＭ参数优化模
型为 ｍａｘａｃｃ（Ｃ．Ｓ）
：Ｃ∈（０，ａ３
Ｓ∈（０，ｂ３ （６）
也就是在给定区间内寻找一组ｃ和Ｓ使得ＫＥＬＭ分类
器在某个数据及上获得最大的分类准确率。
目前对参数进行优化的主要方式有，试验法、经验选 择法、网格搜索法等传统方法以及粒子群算法＿＿１ 、遗传算
法等基于群体演化的优化算法。而对于任何优化算法，分
类准确率评价准则是影响优化效果的重要因素。本文使用
５一Ｃｖ［１３，１４］的方式生成随机的训练集、验证集和测试集，将
这些数据训练所得的５个分类模型的平均准确率作为分类
器的评价标准。这种方式避免了目前较常使用的Ｈｏｌｄｏｕｔ
验证带来的泛化性能差的缺点，并且更充分的利用了有限
的ＤＧＡ数据。交叉验证准确率可用下式表达 Ｎ ａｃｃ（ ）一 １∑ｄ（ ， ∽（ｚ ）） （７）
ｉ＝１ 式中：＾厂 “ （－ｚ ）——分类器在去除第ｉ折后的数据集上训
练所得的分类模型，ｄ（ ，， “ （ ））——分类模型在第ｉ
折上验证的准确率，交叉验证准确率为每个模型分类准确
率的平均值。
由１．２节可知，ＫＥＬＭ分类器的分类准确率随着参数
