下载文档原格式
第41卷 第6期吉林大学学报(信息科学版)Vol.41 No.62023年11月Journal of Jilin University (Information Science Edition)Nov.2023文章编号:1671⁃5896(2023)06⁃1007⁃08基于VMD 的CNN⁃BiLSTM⁃Att 的短期负荷预测收稿日期:2022⁃12⁃06基金项目:海南省重点研发基金资助项目(ZDYF2022GXJS003)作者简介:王金玉(1973 ),男,济南人,东北石油大学教授,硕士生导师,主要从事电力电子与电力传动和信号检测与处理研究,(Tel)86⁃135****2418(E⁃mail)wjydxl@;通讯作者:胡喜乐(1997 ),男,黑龙江依兰人,东北石油大学硕士研究生,主要从事电力系统及其自动化研究,(Tel)86⁃153****6933(E⁃mail)2933395301@㊂王金玉,胡喜乐,闫冠宇(东北石油大学电气信息工程学院,黑龙江大庆163318)摘要:为提高短期电力负荷预测精度,提出了基于变分模态分解(VMD:Variational Mode Decomposition)的CNN⁃BiLSTM⁃Att(Convolutional Neural Network⁃Bidirectional Long Short⁃Term Memory⁃Attention)的短期负荷预测模型㊂该模型将历史的负荷数据使用VMD 分解成多个子序列负荷并结合天气㊁日期㊁工作日类型等因素作为输入特征,得到各个子序列负荷的预测值,然后相加重构组成实际负荷预测曲线㊂通过与其他模型实验对比,VMD⁃CNN⁃BiLSTM⁃Att 模型在测试集上相比于其他模型均有所降低,在连续的周负荷预测中,日负荷预测的平均绝对百分比误差基本维持在1%~2%之间㊂在复杂负荷变化的非工作日中,平均绝对百分比误差相比CNN⁃LSTM 降低0.13%㊂证明VMD⁃CNN⁃BiLSTM⁃Att 短期负荷预测模型能提高电力负荷预测的精度㊂关键词:变分模态分解;卷积网络;长短期记忆网络;注意力机制;短期负荷预测中图分类号:TP18;TM714文献标志码:AShort⁃Term Load Prediction of CNN⁃BiLSTM⁃Att Based on VMDWANG Jinyu,HU Xile,YAN Guanyu(School of Electrical and Information Engineering,Northeast Petroleum University,Daqing 163318,China)Abstract :In order to improve the accuracy of short⁃term power load prediction,a CNN⁃BiLSTM⁃Att (Convolutional Neural Network⁃Bidirectional Long Short⁃Term Memory⁃Attention)short⁃term load prediction model based on variational mode decomposition VMD(Variational Mode Decomposition)is proposed.In this model,the historical load data is decomposed into multiple sub⁃sequence loads using VMD and combined with weather,date,type of working day and other factors as input characteristics.The predicted value of each sub⁃sequence load is predicted by this model,and then added and reconstructed to form the actual load prediction curve.By comparison with other models,the VMD⁃CNN⁃BiLSTM⁃Att model has a decrease in the test set.In the continuous weekly load prediction,the average absolute percentage error of daily load prediction is basically maintained between 1%~2%.In the non⁃working days with complex load changes,the mean absolute percentage error is reduced by 0.13%compared with the CNN⁃LSTM model.It is proved that VMD⁃CNN⁃BiLSTM⁃Att short⁃term load forecasting model can improve the accuracy of power load forecasting.Key words :variational mode decomposition (VMD );convolutional network;long and short term memory network;attention mechanism;short⁃term load forecasting 0 引 言负荷预测是电力系统规划和运行的重要组成部分,而短期负荷预测在电力可靠运行㊁能源管理㊁经济调度以及维护中起到不可或缺的作用[1]㊂准确预测不仅可以加快建设新型电力系统和智慧电网构建,而且还可以更好地实现 双碳”目标㊂目前短期负荷算法研究可分为传统和机器学习2种预测模型㊂传统预测模型使用历史数据作为预测基础,采集过去的负荷序列值对未来一段时间的负荷做出预测㊂常见的模型方法有指数平滑法[2]㊁卡尔曼滤波[3]和线性回归[4⁃5]等方法㊂虽然此类方法处理线性预测是有效的,但由于负荷数据是非线性的,所以得到的预测关系效果较差,尤其是在经济㊁温度㊁天气和日期的影响下预测精度会下降㊂随着人工智能和计算机科学的迅速发展,机器学习理论已融入短期负荷预测研究中,杨梅等[6]为提高负荷的预测精度,提出了多种尺度特征的LSTM (Long Short⁃Term Memory)的预测,使用小波将历史负荷数据分解成多个序列,LSTM 做特征提取和负荷预测㊂牛东晓等[7]通过核主成分分析将输入变量提取主成分形成新的变量矩阵,使用遗传算法优化卷积网络,提高了网络模型的运算效率和精度㊂但单一预测模型在应对数据波动较大时,负荷预测模型的精度有所下降㊂组合模型是将多个模型进行组合,发挥每个模型的优势对电力负荷做出预测㊂李善寿等[8],林涵等[9]和杨胡萍等[10]使用其他方法和CNN(Convolutional Neural Network)和LSTM 或GRU(Gated Recurrent Unit)组合对负荷做出预测,预测模型的精度都有所提升㊂徐建军等[11]使用VMD (Variational Mode Decomposition)分解负荷序列为扰动㊁趋势和噪声子序列,并使用分形插值模型预测,提高了短期电力负荷预测精度㊂短期负荷预测模型中加入注意力机制可提高模型的预测精度和鲁棒性[12]㊂笔者提出基于VMD 分解的注意力的卷积和双向长短期记忆网络(VMD⁃CNN⁃BiLSTM⁃Att:Convolutional Neural Network⁃Bidirectional Long Short⁃Term Memory⁃Attention)的预测方法,首先将负荷序列分解为多个子序列,并将每个负荷子序列和历史天气㊁日期类型和负荷等数据分别构成卷积网络的输入,通过在卷积网络和BiLSTM 网络嵌入注意力层的CNN⁃BiLSTM⁃Att 模型进行负荷预测,并将得到的每个预测结果加权得到最终预测结果㊂与其他模型实验对比,证明了提出的短期电力负荷预测模型可有效地提升负荷预测精度㊂1 深度学习模型原理1.1 CNN 原理结构卷积神经网络是深度学习中使用非常广泛的模型,其早期主要随计算机视觉[13⁃14]技术的发展不断完图1 一维卷积结构Fig.1 One⁃dimensional convolution structure 善,目前卷积也可应用于时间序列的分析中,因为其局部连接和权重共享特性,可在模型训练过程中减少待训练的参数数量,提高网络模型的训练速度,并且可以更好地从输入原始信息进行特征提取㊂一维卷积不同于二维卷积,一维卷积更加适合对时间序列的预测,其只在一个维度上移动,并与二维卷积都是通过对卷积层和池化层的堆叠,使用卷积层对输入数据的特征提取,再利用池化层进一步保留卷积层所提取的重要特征㊂一维卷积㊁一次卷积和池化过程如图1所示㊂1.2 双向LSTM 网络模型LSTM 网络是一种时间循环神经网络(RNN:Recurrent Neural Network),其模型结构包括输入门㊁遗忘门和输出门的单元结构,并能很好地解决传统RNN 在模型训练中的梯度消失问题㊂LSTM 较RNN 模型在当前众多的故障检测㊁时间序列预测方面获得更多的应用㊂其单元结构如图2所示㊂其中遗忘门f t 是当前LSTM 基本单元对上个基本单元中输入信息的保留程度㊂输入门i t 的结构实现功能是对当前时序信息进行控制,表示输入信息的保留程度㊂输出门o t 作为基本单元的输出,其表示对当前单元的输出状态:f t =σ(W f x t +U f h t -1+b f ),(1)i t =σ(W i x t +U i h t -1+b i ),(2)8001吉林大学学报(信息科学版)第41卷c ′t =tanh(W c x t +U c h t -1+b c ),(3)c t =f t c t -1+i t c ′t ,(4)o t =σ(W o x t +U o h t -1+b o ),(5)h t =o t tanh(c t ),(6)其中f t ,i t ,o t 分别为LSTM 单元的遗忘门㊁输入门和输出门,h t 为隐含层输出,c ′t 和c t 为输入节点和状态单元;W f ,W i ,W c ,W o ,U f ,U i ,U c ,U o 分别为3类门和中间状态的矩阵系数;b f ,b i ,b c 为其相应的偏置;σ和tanh 为激活函数㊂在单向的LSTM 网络中,在网络中流通的信息只能从前向后传播,但对于负荷预测,当前时刻的负荷量与过去时间节点和未来时间节点的负荷量均有关联㊂单向的LSTM 网络不能很好地挖掘负荷数据之间的关系,而双向的LSTM 网络(BiLSTM)中信息的流动是双向的,可将当前的状态和过去以及未来的状态紧密联系,有效处理负荷数据之间的关系㊂BiLSTM 的结构如图3所示㊂ 图2 LSTM 网络结构 图3 Bi⁃LSTM 网络结构 Fig.2 Structure of LSTM network Fig.3 Structure of Bi⁃LSTM network2 模型建立2.1 注意力机制注意力(Attention)机制是模仿人类视觉系统对信息处理的方法,将注意力按照不同的权重分配到所关注的事务上,在海量的信息中根据注意力分配的权重对关键信息进行重视,减少对非关键信息的重图4 Attention 机制结构Fig.4 Structure of attention mechanism 视,更加有利于提高预测模型的精度㊂注意力结构如图4所示㊂2.2 CNN⁃BiLSTM⁃Att 模型笔者提出的注意力机制的卷积和双向长短期记忆网络,简称CNN⁃BiLSTM⁃Att 模型,其网络是多变量输出模型㊂首先网络输入变量类型有历史负荷数据㊁星期类型㊁工作日类型以及天气因素等,多个维度的变量以天为单位,将每天的数据组成特征向量,将前图5 CNN⁃BiLSTM⁃Att 网络模型Fig.5 CNN⁃BiLSTM⁃Att network modeln 天的数据构成的特征图作为一维卷积的输入特征,经由CNN⁃BiLSTM⁃Att 模型训练后,得到输出为下一天的负荷数据㊂CNN⁃BiLSTM⁃Att 模型结构如图5所示㊂卷积层的作用是为了提取数据之间的特征信息,但由于卷积局部连接的特性,在池化层后加入注意力层,使用注意力层对重要特征进行提取,忽略不必要特征,可更好地挖掘数据之间的特征㊂将一维卷积的输出作为双向的LSTM 的输入序列,同时,在双向的LSTM 的尾部加入注意力层对其隐含层输出赋予不同的权重信息,使预测输出效果更好㊂9001第6期王金玉,等:基于VMD 的CNN⁃BiLSTM⁃Att 的短期负荷预测2.3 VMD⁃CNN⁃BiLSTM⁃Att 模型VMD 分解是自适应分解方法,可有效地将信号序列分解为不同模态函数和中心频率的子序列[15],相比EMD,VMD 采用了迭代变分模型分解信号序列㊂可有效减少信号序列噪声和保留高频数据特征㊂VMD 采用原始信号序列及每个模态之和作为约束条件,如下:min {u k },{w k }∑k ∂t δ(t )+j π()t *u k (t [])e -j w k t {}22,s.t. ∑ku k =f (t ìîíïïïï),(7)其中k 为模态分解个数,u k 和w k 分别为第k 个模态分量和中心频率,f (t )为输入的原始信号,δ(t )为单位脉冲函数,∂(t )为第t 时刻的偏导数,‖㊃‖为L 2范数,*为卷积㊂引入惩罚因子和拉格朗日算子,式(7)可转化为L ({u k },{w k },λ)=α∑k ∂tδ(t )+j π()t *u k (t [])e -j w k t 22+f (t )-∑ku k (t )22+〈λ(t ),f (t )-∑k u k 〉,(8)其中δ为惩罚因子,λ为拉格朗日算子㊂模态更新如下:u n +1k =f (w )-∑Ki =1,i <k u n +1i (w )-∑K i =1,i >k u n j (w )1+2α(w -w n k )2+λn (w )21+2α(w -w n k )2,(9)其中f (w )㊁u n i (w ),λn (t )分别为对应时域下的傅里叶变换,n 为指定的迭代次数㊂中心频率更新如下:w n +1k =∫∞0w u n +1k (w )2d w ∫∞0u n +1k (w )2d w ㊂(10) 笔者提出的VMD⁃CNN⁃BiLSTM⁃Att 的短期负荷预测模型结构如图6所示㊂首先将原始负荷序列经预图6 VMD⁃CNN⁃BiLSTM⁃Att 网络模型Fig.6 VMD⁃CNN⁃BiLSTM⁃Att network model 处理,采用VMD 分解为多个子负荷序列,再将每个子序列和天气㊁日期㊁工作日类型等特征组合构成卷积的输入向量,输入给CNN⁃BiLSTM⁃Att 网络模型,得到相应的预测曲线,最后将VMD 分解得到的所有子序列的预测结果相加,给出最终预测结果㊂2.4 预测模型评价标准笔者选取在短期负荷预测常用于评价模型预测结果和衡量预测模型精度的评价指标,分别为平均绝对百分比误差MAPE(Mean Absolute Percentage Error)㊁均方根误差RMSE (Root Mean Squared Error)和平均绝对误差MAE(Mean Absolute Error),分别为M MAPE =1n ∑n i =1y i -y pi y i ×100%,(11)R RMSE =1n ∑n i =1(y i -y pi )2,(12)M MAE =1n y i-y pi ,(13)其中n 为预测数据点个数,y i 和y pi 分别为i 时刻的实际负荷数据和预测负荷数据㊂0101吉林大学学报(信息科学版)第41卷3 算例分析实验采取的硬件设备是12th Inter,16GByte 内存和含有一块3060的显卡的笔记本电脑,软件采用Tensorflow 的深度学习框架,应用Python 3.7编写程序㊂3.1 数据预处理3.1.1 异常数据处理数据的准确性有助于提高模型的预测精度,在负荷预测数据中,无论是利用人工还是软件对数据进行记录,都可能出现数据异常现象㊂如果不对异常数据进行处理,可能会影响算法精度㊂在对异常数据处理时,笔者采用基于邻近值的均值方法进行修正㊂3.1.2 数据归一化采用归一化可将特征属性统一量纲,使模型的训练梯度收敛更快,提高训练模型精度㊂目前常用的是min⁃max 和z⁃score 标准化,笔者采用min⁃max 标准化对输入数据标准化:x′=x -x min x max -x min ,(14)其中x′为标准化值,取值范围为[0,1],x max 和x min 为数据变量中最大值和最小值㊂3.2 实验分析笔者选用中国某地区2012年1月⁃2014年12月包括实际电力负荷㊁天气的最高温度㊁最低温度和平均温度㊁相对湿度㊁星期类型㊁节假日类型和季节类型数据,其中日负荷数据是每隔15min 采样数据,全天共96个采样数据,数据集3年的数据数量共11万多条数据㊂数据集按9∶1的比例划分为训练集和测试集,使用前7天的负荷数据㊁温度数据㊁相对湿度㊁星期和工作日类型等数据构成7×103维度向量,预测下一天96个时间采样点的负荷数据㊂实验中在卷积模块中使用的激活函数为relu 函数,在双向LSTM 中使用默认的tanh 和sigmod 作为激活函数㊂神经网络部分参数设置如表1所示㊂表1 神经网络部分参数表Tab.1 Neural network partial parameter table网络超参数Conv1D_1/Conv1D_2的卷积核数量BiLSTM_1/BiLSTM_2的神经元个数迭代次数批量大小数值128/6416/3230064表2 有无注意力层的模型误差数据表Tab.2 Model error data table with or without attention layer 模型MAPE /%RMSE /MW MAE /MW CNN⁃BiLSTM 3.77420.53270.34CNN⁃BiLSTM⁃Att 3.18388.13224.16 在相同的网络参数基础上,为验证向网络中注入注意力机制对模型预测精度的提升效果㊂有无注意力的模型在整个测试集上的误差分析如表2所示㊂从表2可看出,注入注意力层的CNN⁃BiLSTM⁃Att 模型相比于CNN⁃BiLSTM 模型的各类误差均有所降低㊂利用VMD 对原始负荷数据进行分解,截取部分长度的分解效果如图7所示㊂可看出经VMD 分解得到的模态分量从IMF1到IMF5的波形幅值逐渐减少且频率逐渐增高,这表明低幅值的分量对重构后的负荷预测的影响变小㊂笔者选用分解模态个数K =5㊁二次惩罚因子α=2000和其余参数为默认参数的VMD 算法处理数据㊂1101第6期王金玉,等:基于VMD 的CNN⁃BiLSTM⁃Att 的短期负荷预测图7 VMD 分解效果Fig.7 Effect of VMD decomposition 为验证VMD⁃CNN⁃BiLSTM⁃Att 模型的优越性,分别建立了MLP (Multi⁃Layer Perceptron )㊁CNN㊁BiLSTM 和CNN⁃LSTM 的模型进行对比分析,在整个训练集上的误差结果如表3所示㊂从表3可看出,笔者提出的VMD⁃CNN⁃BiLSTM⁃Att 模型在对比模型各个误差指标中都最小,相比单一模型MAPE 下降了1.08%㊁RMSE 下降了176.71㊁MW 和MAE 下降了73.16MW㊂表3 测试集各个模型的误差数据表图8 最后两周的预测曲线对比Fig.8 Comparison of forecast curvesfor the last two weeks 预测点,绘制全部的负荷预测曲线不便于观察比较分析,选择测试集上最后两周的负荷预测曲线对比分析结果如图8所示,连续两周14d 中的误差的变化结果如图9所示㊂从连续两周的负荷预测可看出,笔者提出的模型可以很好的拟合实际的负荷曲线,在周负荷曲线工作日和非工作日负荷发生明显变化时,VMD⁃CNN⁃BiLSTM⁃Att 模型可较准确的拟合出负荷大幅度的变化㊂在图9每个模型的柱状误差分析中,简单模型MLP 的MAPE 误差最大,单一模型CNN 和BiLSTM 模型在连续两周的预测中,模型的预测结果不够平稳,误差波动比较大,单日最大的MAPE 超过了4%,而笔者提出的组合模型较CNN⁃LSTM 模型误差有所降低,且误差波动不大,日预测误差基本都在1%~2%之间㊂模型预测较稳定㊂为测试在复杂负荷波动变化下模型的预测精度效果,每个模型在非工作日的预测曲线如图10所示㊂从图10可看出,简单模型MLP 只有预测曲线的变化趋势,并且其噪声较大,单一模型LSTM 较好地拟合出曲线变化,但其在实际负荷变化时有明显的滞后性㊂单一模型CNN 在对负荷变化较大且不稳定时,不能很好地学习负荷数据的变化㊂而笔者提出模型和组合模型CNN⁃LSTM 可以准确地预测负荷的变化,表4给出每个模型的预测误差结果㊂在非工作日预测中,笔者提出的VMD⁃CNN⁃BiLSTM⁃Att 相比CNN⁃LSTM 模型MAPE 的预测误差下降了0.13%㊁RMSE 下降了7.02MW㊁MAE 下降了10.96MW,对复杂的负荷变化预测更加准确㊂2101吉林大学学报(信息科学版)第41卷 图9 每天的误差变化对比 图10 非工作日预测曲线对比 Fig.9 Comparison of daily error changes Fig.10 Non⁃working day forecast curve comparison 表4 每个模型的误差数据表4 结 论笔者采用VMD 分解负荷序列与CNN⁃BiLATM⁃Att 模型结合的方式,提出了VMD⁃CNN⁃BiLSTM⁃Att 的短期电力负荷预测模型,实验对比其他模型,在整个测试集上误差最小,通过实验得到如下结论:1)对多变量负荷数据的输入,使用卷积进行输入数据的特征提取,LSTM 网络做时序预测负荷,较单一模型相比,能提高负荷的预测精度;2)在CNN 和BiLSTM 组合的网络模型分别嵌入注意力层,结合VMD 分解算法与其他模型对比,笔者提出的模型VMD⁃CNN⁃BiLSTM⁃Att 短期负荷预测模型准确性有所提高;3)通过对比连续的周预测和复杂负荷变化的非工作日,笔者提出的VMD⁃CNN⁃BiLSTM⁃Att 模型与其他模型对比分析,模型具有着较高的稳定性和准确性㊂参考文献:[1]RAFI S H,NAHID⁃AL⁃MASOOD,DEEBA S R,et al.A Short⁃Term Load Forecasting Method Using Integrated CNN andLSTM Network [J].IEEE Access,2021,9:32436⁃32448.[2]吉博文,吴张傲.指数平滑法在电力系统负荷预测中的应用[J].科技创新与应用,2018(30):173⁃174.JI B W,WU Z A.Application of Exponential Smoothing Method in Load Prediction of Power System [J].Science &Technology Innovation and Application,2018(30):173⁃174.[3]陈培垠,方彦军.基于卡尔曼滤波预测节假日逐点增长率的电力系统短期负荷预测[J].武汉大学学报(工学版),2020,53(2):139⁃144.CHEN P Y,FANG Y J.Short⁃Term Load Forecasting of Power System Based on Kalman Filter Predicting Point by Point Growth Rate during Holidays [J].Journal of Wuhan University (Engineering Science),2020,53(2):139⁃144.[4]王宝财.基于温度近因效应的多元线性回归电力负荷预测[J].水电能源科学,2018,36(10):201⁃205.WANG B C.Multiple Linear Regression Power Load Prediction Based on Temperature Recency Effect [J].Hydropower Energy Science,2018,36(10):201⁃205.[5]杨胡萍,李辉.基于Adaboost 的改进多元线性回归算法中长期负荷预测[J].太原理工大学学报,2017,48(5):818⁃821,840.YANG H P,LI H.Improved Multiple Linear Regression Algorithm Based on Adaboost for Medium and Long Term Load Forecasting [J].Journal of Taiyuan University of Technology,2017,48(5):818⁃821,840.[6]杨梅,李忠,吴昊,等.基于多尺度时间特征LSTM 的短期负荷预测[J].控制工程,2022,29(9):1722⁃1728.YANG M,LI Z,WU H,et al.Short⁃Term Load Forecasting Based on Multi⁃Scale Time Feature LSTM [J].Control 3101第6期王金玉,等:基于VMD 的CNN⁃BiLSTM⁃Att 的短期负荷预测4101吉林大学学报(信息科学版)第41卷Engineering,2022,29(9):1722⁃1728.[7]牛东晓,马天男,王海潮,等.基于KPCA和NSGAⅡ优化CNN参数的电动汽车充电站短期负荷预测[J].电力建设, 2017,38(3):85⁃92.NIU D X,MA T N,WANG H C,et al.Short⁃Term Load Prediction of Electric Vehicle Charging Station Based on KPCA and NSGAⅡOptimization of CNN Parameters[J].China Electric Power Construction,2017,38(3):85⁃92.[8]李善寿,马枭杰,潘璐茜,等.基于VMD和LSTM⁃CNN的短期负荷预测模型研究[J/OL].控制工程:1⁃11[2022⁃11⁃23].https:∥/10.14107/ki.kzgc.20210798.LI S S,MA X J,PAN L S,et al.Research on Short⁃Term Load Forecasting Model Based on VMD and LSTM⁃CNN[J/OL]. Control Engineering:1⁃11[2022⁃11⁃23].https:∥/10.14107/ki.kzgc.20210798.[9]林涵,郝正航,郭家鹏,等.基于TCA⁃CNN⁃LSTM的短期负荷预测研究[J/OL].电测与仪表[2022⁃11⁃23].http:∥/kcms/detail/23.1202.TH.20211027.1431.002.html.LIN H,HAO Z H,GUO J P,et al.Research on Short⁃Term Load Forecasting Based on TCA⁃CNN⁃LSTM[J/OL].Electrical Measurement and Instrumentation[2022⁃11⁃23].http:∥/kcms/detail/23.1202.TH.20211027.1431.002. html.[10]杨胡萍,余阳,汪超,等.基于VMD⁃CNN⁃BIGRU的电力系统短期负荷预测[J].中国电力,2022,55(10):71⁃76. YANG H P,YU Y,WANG C,et al.Short⁃Term Load Forecasting of Power System Based on VMD⁃CNN⁃BIGRU[J].China Electric Power,2022,55(10):71⁃76.[11]徐建军,王硕昌.基于VMD⁃分形理论的短期电力负荷预测[J].吉林大学学报(信息科学版),2022,40 (5):744⁃751.XU J J,WANG S C.Based on VMD⁃Fractal Theory of Short⁃Term Power Load Forecasting[J].Journal of Jilin University (Information Science Edition),2022,40(5):744⁃751.[12]白冰青,刘江涛,王旭,等.基于MRMR和双重注意力机制的城市能源多元负荷短期预测[J].电力系统自动化, 2022,46(17):44⁃55.BAI B Q,LIU J T,WANG X,et al.Short⁃Term Prediction of Urban Energy Multiple Load Based on MRMR and Dual Attention Mechanism[J].Automation of Electric Power Systems,2022,46(17):44⁃55.[13]卢宏涛,罗沐昆.基于深度学习的计算机视觉研究新进展[J].数据采集与处理,2022,37(2):247⁃278.LU H T,LUO M K.New Advances in Computer Vision Research Based on Deep Learning[J].Data Acquisition and Processing,2022,37(2):247⁃278.[14]陈超,齐峰.卷积神经网络的发展及其在计算机视觉领域中的应用综述[J].计算机科学,2019,46(3):63⁃73. CHEN C,QI F.Development of Convolutional Neural Networks and Their Applications in Computer Vision[J].Journal of Computer Science,2019,46(3):63⁃73.[15]高金兰,王天.基于VMD⁃IWOA⁃LSSVM的短期负荷预测[J].吉林大学学报(信息科学版),2021,39(4):430⁃438. GAO J L,WANG T.Short⁃Term Load Forecasting Based on VMD⁃IWOA⁃LSSVM[J].Journal of Jilin University(Information Science Edition),2021,39(4):430⁃438.(责任编辑:张洁)。
基于遗传算法优化前馈神经网络模型的配电网短期负荷预测摘要：随着能源需求的不断增长，配电网短期负荷预测变得越来越重要。
传统的负荷预测模型在准确性和鲁棒性方面存在一定的局限性。
本文提出了一种基于遗传算法优化的前馈神经网络模型，该模型能够更准确地预测配电网短期负荷。
实验结果表明，该模型相比传统模型具有更高的准确性和稳定性，可为配电网的运行和管理提供更可靠的参考。
1. 研究背景随着社会经济的迅速发展和技术的不断进步，能源的需求量也在不断增加。
配电网作为能源供应的重要组成部分，其负荷预测对于保障电网的安全运行和合理调度至关重要。
短期负荷预测是指在未来一段时间内（通常是数小时或一天内），对配电网的负荷需求进行准确预测。
准确的短期负荷预测可以帮助电力系统的调度员制定合理的发电计划，合理地安排电网的运行和管理。
而不准确的负荷预测则可能导致电网过载或者能源浪费。
目前，配电网短期负荷预测主要采用传统的时间序列分析方法或者基于统计学的方法。
这些方法往往在准确性和鲁棒性上存在一定的局限性，特别是面对负荷波动较大或者存在噪声干扰时。
研究如何利用先进的计算机科学和人工智能技术来提高负荷预测模型的准确性和鲁棒性，成为当前配电网领域的研究热点之一。
3. 研究内容本文以配电网的历史负荷数据为基础，结合遗传算法优化的前馈神经网络模型，建立配电网短期负荷预测模型。
具体研究内容包括以下几个方面：（1）历史负荷数据的预处理：首先需要对历史负荷数据进行预处理，包括数据清洗、特征提取、数据归一化等步骤，以便于建立神经网络模型。
（2）前馈神经网络模型的建立：在预处理完负荷数据后，利用前馈神经网络模型来对负荷进行预测。
前馈神经网络是一种最常见的神经网络结构，具有较好的拟合能力和泛化能力。
（3）遗传算法的优化：为了进一步提高神经网络模型的预测性能，本文引入遗传算法对网络结构和权值进行优化。
遗传算法是一种模拟自然进化过程的全局寻优算法，可以高效地找到神经网络模型的最优参数。
粗糙集理论的应用及发展摘要:粗糙集理论是一种新型的处理模糊和不确定知识的数学工具, 被广泛应用于不确定环境下的信息处理。
本文主要介绍了粗糙集理论的基本概念、研究对象,叙述了其在各领域的应用发展情况,然后对粗糙集理论应用进行了论述, 最后对粗糙集理论今后的研究方向进行了展望。
关键词:粗糙集、应用、数据挖掘、数据分析、发展趋势粗糙集(Rough sets) 理论是由波兰数学家Z. Pawlak 在1982 年提出的, 该理论是一种刻画不完整性和不确定性的数学工具,能有效地分析和处理不精确、不一致、不完整等各种不完备信息,并从中发现隐含的知识,揭示潜在的规律[1 ] 。
1992 年至今,每年都召开以RS 为主题的国际会议,推动了RS 理论的拓展和应用。
国际上成立了粗糙集学术研究会,参加的成员来自波兰、美国、加拿大、日本、挪威、俄罗斯、乌克兰和印度等国家。
目前,粗糙集这一新的数学理论已经成为信息科学领域的研究热点之一,它在机器学习、知识获取、决策分析、过程控制等许多领域得到了广泛的应用。
1、粗糙集理论的基本概念1. 1 知识的含义粗糙集理论建立在分类机制的基础上,并将等价关系对空间的划分与知识等同。
粗糙集理论的主要思想是利用已知的知识库,将不精确或不确定的知识用已知的知识库中的知识来(近似)刻画。
在粗糙集理论中,“知识”被认为是一种分类能力,也就是将知识理解为对数据的划分。
用集合的概念表示就是使用等价关系集R 对离散表示的空间U 进行划分,知识就是R 对U 划分的结果。
由此,在U 和R 的意义下,知识库可以定义为:属于R 中的所有可能的关系对U 的划分,记为K = ( U , R) (1)这样给定一组数据U 与等价关系集R ,在R 下对U 的划分, 称为知识, 记为U/ R 。
如果一个等价关系集对数据的划分存在矛盾, 则将导致不确定划分,可用粗糙度来度量。
1. 2 集合的上近似和下近似粗糙集理论的不确定性是建立在上、下近似的概念之上的。
第51卷第18期电力系统保护与控制Vol.51 No.18 2023年9月16日Power System Protection and Control Sept. 16, 2023 DOI: 10.19783/ki.pspc.230148基于K-Medoids聚类与栅格法提取负荷曲线特征的CNN-LSTM短期负荷预测季玉琦，严亚帮，和 萍，刘小梅，李从善，赵 琛，范嘉乐(郑州轻工业大学电气信息工程学院，河南 郑州 450002)摘要：高效准确的短期负荷预测是电力系统安全稳定与经济运行的重要保障。
针对峰荷与谷荷预测误差较大的问题，提出一种基于栅格法提取负荷曲线特征的卷积神经网络和长短期记忆网络(convolutional neural network and long short term memory network, CNN-LSTM)混合预测模型。
首先，采用K-Medoids算法对日负荷曲线聚类，将各聚类中心作为典型代表日负荷曲线。
采用栅格法将典型代表日负荷曲线划分为若干个区间并依次编号，提取负荷曲线的特征。
然后，将各典型代表日负荷曲线特征与对应负荷类型历史数据重构成新的特征集输入到CNN-LSTM 混合神经网络中。
利用CNN挖掘数据间的特征形成新的特征向量，再将该特征向量输入到LSTM中进行预测。
最后，以美国新英格兰地区2012至2013年电力负荷数据集为例进行仿真验证。
结果表明，所提方法在不同日期下的负荷预测精度均有所提升，并且在提升日负荷平均预测精度的同时，有效提升了峰荷、谷荷的预测精度。
关键词：短期负荷预测；K-Medoids聚类分析；负荷曲线特征提取；卷积神经网络；长短期记忆网络CNN-LSTM short-term load forecasting based on the K-Medoids clustering andgrid method to extract load curve featuresJI Yuqi, YAN Yabang, HE Ping, LIU Xiaomei, LI Congshan, ZHAO Chen, FAN Jiale (School of Electrical and Information Engineering, Zhengzhou University of Light Industry, Zhengzhou 450002, China)Abstract: Efficient and accurate short-term load forecasting is an important guarantee of safe, stable and economic operation of a power system. Given the large prediction errors of peak and valley loads, this paper proposes a convolutional neural network and long short term memory network (CNN-LSTM) hybrid prediction model based on a grid method to extract load curve features. First, the K-Medoids algorithm is used to cluster the daily load curves, and each cluster center is taken as the typical daily load curve. The typical daily load curve is divided into several sections by the grid method and numbered successively to extract the features of the load curve. Then, the characteristics of each typical daily load curve and the historical data of corresponding load types are reconstructed into a new feature set and input into the CNN-LSTM hybrid neural network. The features among the data are mined by the CNN to form a new feature vector, which is then input into LSTM for prediction.Finally, the 2012—2013 power load data set in New England is taken as an example for simulation verification. The results show that the load prediction accuracy of the proposed method is improved for different dates, and the prediction accuracy of peak and valley loads is effectively improved while the average forecast accuracy of the daily load is also improved.This work is supported by the National Natural Science Foundation of China (No. 62203401 and No. 52377125).Key words: short-term load forecasting; K-Medoids cluster analysis; load curve feature extraction; convolutional neural network; long-short term memory network基金项目：国家自然科学基金项目资助(62203401，52377125)；河南省科技攻关项目资助(212102210257)；河南省自然科学基金项目资助(232300420315)- 82 - 电力系统保护与控制0 引言短期电力负荷预测是对未来几小时到几天的电力负荷进行预测，准确的预测结果为电力系统安全稳定与经济运行提供数据参考与决策支持[1-2]。
基于贝叶斯神经网络方法短期负荷预测指南短期负荷预测在电力系统运行中起着至关重要的作用。
正确的负荷预测可以帮助电力公司合理调度发电机组，优化电力供需平衡，提高电力系统的可靠性和经济性。
贝叶斯神经网络（Bayesian Neural Network，BNN）作为一种强大的建模工具，已经在负荷预测领域取得了很好的效果。
本文将介绍基于BNN方法进行短期负荷预测的指南。
首先，我们需要准备历史负荷数据作为训练样本。
这些历史负荷数据通常包括负荷的时间序列和对应的日期时间信息。
为了提高预测模型的准确性，我们可以考虑使用一些相关的影响因素作为特征变量，例如天气数据、季节性因素等。
接下来，我们需要选择一个合适的BNN模型结构。
BNN是一种基于神经网络的概率图模型，可以有效处理不确定性问题。
常见的BNN模型包括Bayesian Feedforward Neural Network（BFNN）、Bayesian Recurrent Neural Network（BRNN）等。
根据实际需求，选择一个适合的模型。
在训练BNN模型之前，我们需要进行数据预处理。
常见的预处理方法包括标准化、归一化等，以提高数据的可比性和模型的训练效果。
接着，我们可以使用一些常见的优化算法训练BNN模型，例如随机梯度下降（Stochastic Gradient Descent，SGD）、Adam等。
在进行优化算法调参时，可以使用交叉验证的方法选择最优的参数配置。
训练好BNN模型后，我们可以进行负荷预测。
预测的输入是未来一段时间的特征变量，输出是对应时间段的负荷预测结果。
预测结果可以是点预测，也可以是概率分布预测。
最后，我们需要评估负荷预测的准确性。
常见的评估指标包括均方根误差（Root Mean Square Error，RMSE）、平均绝对误差（MeanAbsolute Error，MAE）等。
通过对预测准确性的评估，可以判断BNN模型的负荷预测效果，并进行相应的改进。
第28卷第3期湖南文理学院学报(自然科学版)Vol.28No.3 2016年9月Journal of Hunan University of Arts and Science(Science and Technology)Sep.2016 doi:10.3969/j.issn.1672–6146.2016.03.012基于改进机器学习算法的微电网短期负荷预测齐庭庭,李建奇(湖南文理学院电气与信息工程学院,湖南常德,415000)摘要:为了对具有基数小、波动大及随机性强等特点的微电网负荷进行准确预测,提出了一种基于改进的机器学习算法。
该算法包括基于蚁群算法的模型参数寻优和基于改进核函数极限学习机的预测模型2部分。
首先,对蚁群算法信息素的作用方式进行了改进,并将训练误差用于计算蚁群个体的新增信息素,从而得到最优的模型参数。
其次,采用基于加权离散距离的方法对训练数据进行筛选,留下相似度高的训练样本对核函数输出权重进行训练,从而减少计算量,提高预测精度。
用某小区高层楼宇的电网历史负荷数据,在Matlab 中对算法进行仿真验证,结果表明预测算法能较好地实现微电网的负荷预测。
关键词:微电网;负荷预测;机器学习算法中图分类号:TM715文章编号:1672–6146(2016)03–0057–05Short-term load forecasting for microgrids based on improved machine learningalgorithmQi Tingting,Li Jianqi(College of Electrical and Information Engineering,Hunan University of Arts and Science,Changde415000,China) Abstract:In order to improve the accuracy of short-term load forecasting,an improved machine learning algorithm is proposed.It consists of model parameters optimization based on ACO(Ant Colony optimization)and forecasting model based on improved KELM(Extreme Learning Machine).Firstly,the way that pheromone works is modified and the training error is introduced into calculating new pheromone.By this way,the optimal parameters of KELM can be obtained.Secondly,the weighted discrete distance is utilized to screen the training data.The more similar ones will be picked out to train the output weight of KELM.It can reduce calculation and improve the accuracy.The historic load data of a residential building is utilized to conduct the verifying simulations in Matlab.The results show that the proposed algorithm has a good performance in short-term load forecasting for microgrids.Key words:microgrids;load forecasting;machine learning algorithm根据目前国内外的相关研究,按时间尺度可以将电力系统负荷预测分为长期、中期、短期和超短期负荷预测4类[1]。
电力系统中基于机器学习的短期负荷预测研究随着人们生活水平的不断提高，电力系统的负荷需求也随之不断增长，为了应对这一挑战，各国电力系统逐渐借助先进的技术手段来进行短期负荷预测，以提高系统的运行效率和可靠性。
其中机器学习技术因其高效、准确、自适应等特点，成为电力系统中应用广泛的一种预测方法。
一、短期负荷预测概述短期负荷预测是指在给定的日期和时间范围内，预测系统的电力负荷大小，以提高电力系统的供应能力，并保证系统运行的可靠性和稳定性。
通常短期负荷预测分为日、周、月、季度等多个层次，根据预测准确度和预测周期的不同，应用场景也有所不同。
例如，日负荷预测主要适用于日前调度、负荷平衡控制等方面，而周、月、季度负荷预测则主要用于电力市场分析、电力交易等方面。
二、机器学习在短期负荷预测中的应用机器学习适用于多变量、非线性、高维度数据的情况，因此在电力系统中的短期负荷预测领域得到了广泛的应用。
目前，机器学习在短期负荷预测中的应用主要包括以下几种方法。
1. 基于回归的方法基于回归的方法是通过寻找训练数据与负荷之间的关系，建立回归模型来预测未来的负荷情况。
常见的回归模型包括线性回归模型、非线性回归模型、支持向量机回归模型等。
2. 基于神经网络的方法基于神经网络的方法是建立一个包含大量神经元的神经网络，并将历史数据作为输入，通过反向传播算法调整网络的参数，从而得到能够准确预测负荷的神经网络模型。
3. 基于时序模型的方法基于时序模型的方法是针对时间序列数据建立预测模型，例如ARIMA模型、季节性自回归模型、指数平滑模型等。
这些模型能够通过对时间序列数据的学习，从而更加准确地预测未来的负荷情况。
三、机器学习在短期负荷预测中的优势和挑战机器学习在短期负荷预测中被广泛应用的原因之一是其具有准确性高、自适应性强等优势。
另外，机器学习还能够自动化地处理数据，快速学习新知识，并通过算法不断改进，从而提高预测效果。
然而，机器学习在短期负荷预测中也存在一些挑战，例如需要大量的历史数据作为输入，对于数据质量和数据处理技术要求较高，计算资源和算法优化也是瓶颈所在。
神经网络模型下短期电力负荷预测电力系统短期负荷预测关系到电力系统的平稳调度。
负荷预测的精度直接影响到电力系统的经济性和稳定性，智能电网对负荷预测的实时性要求也越来越高。
因此，国内外学者一直将短期电力负荷预测作为研究重点。
人工神经网络是一种智能算法，其在各种领域都有广泛的应用。
近年来专家学者也将人工神经网络应用到了短期电力负荷预测中。
在负荷预测算法中，使用最多的是BP 神经网络。
本文通过对人工蜂群算法（ABC）进行改进，以提高人工蜂群算法的预测精度及全局收敛性，用改进后的人工蜂群算法优化BP神经网络，即ABC-SA电力负荷预测模型。
最后通过仿真实验预测值与真实值比较，验证本文方法的有效性。
短期电力负荷预测（Short-term load forecasting，STLF）主要是指对未来若干小时、1天至几天的电力负荷预报，作为安排发购电计划，经济分配负荷及安排机组出力的基础，精准的负荷预测是保证电网安全可靠运行的前提条件【1】。
随着科技以及计算机技术的发展，电力负荷预测的相关技术也在不断进布，目前国内外研究短期负荷预测的方法，大体上有传统的基本的分析预测方法以及灰度预测、回归分析和神经网络等智能预测算法【2，3】。
人工蜂群算法是群只能算法的一种，该算法一经提出，由于其结构简单易实现、性能优越，越来越多研究人员对其进行研究。
人工蜂群算法虽然优秀，但是其存在很多优化算法都存在的缺点——容易陷入局部最优。
人工蜂群到算法后期，侦察蜂多次迭代后，又转换为极值点的采蜜蜂，导致搜索能力减弱，甚至陷入局部最优。
于是本文采用模拟退火算法对人工蜂群算法进行改进，称为ABC-SA算法，它作用是维持优良解，在采蜜蜂阶段和观察蜂阶段扩大蜜蜂的搜索范围，从而提高收敛速度。
并将该算法用到优化BP神经网络的训练中，使用优化后的神经网络对电力负荷进行预测。
1.人工蜂群算法及其改进1.1人工蜂群算法原理在人工蜂群优化算法中，类比生物学的机理，同样包含三个基本的组成要素：蜜源，雇佣蜂，非雇佣蜂【4】。
基于模式识别的电力负荷预测与优化技术研究电力负荷预测是电力领域中的一个重要问题，它涉及到能源的有效利用和供需的平衡。
在纷繁复杂的电力市场上，如何进行准确的负荷预测和优化已经成为了电力管理和调度的一个个重要环节。
基于模式识别的电力负荷预测与优化技术已成为当今电力行业的主流趋势。
一、电力负荷预测技术电力负荷预测技术是指利用数理统计和计算机科学等技术，通过历史数据和当前信息，对未来电力负荷值进行预测的过程。
其中，最常见的电力负荷预测方法是基于时间序列分析的方法。
时间序列分析法主要是通过对历史负荷数据的分析和建模，来预测未来的负荷变化趋势。
该方法广泛应用于短期负荷预测中，包括日、周、月和季度预测。
它能够较好地模拟历史负荷数据中的趋势、季节性和随机性，从而得到更加准确的负荷预测结果。
二、基于模式识别的负荷预测技术相比传统的时间序列分析法，基于模式识别的负荷预测技术在预测准确性、时间效率和稳定性方面都有了不同程度的提高。
模式识别技术主要是利用机器学习算法，对历史数据进行训练和学习，从而可以更加准确地预测未来的负荷变化。
该技术不仅可以利用时间序列数据作为输入，还可以加入其他影响负荷的因素，如天气、假期等，以提高预测的准确性。
目前，基于模式识别的负荷预测方法已经有了多种实现方式。
其中，人工神经网络（Artificial Neural Network，ANN）是一种较为常见的方法。
基于神经网络的负荷预测方法通过建立多层神经元之间的连接，利用反向传播算法，对历史数据进行训练，并预测未来的负荷变化。
还有支持向量机（Support Vector Machine，SVM），决策树（Decision Tree，DT）等基于模式识别的负荷预测方法，它们通过不同的算法和模型对负荷数据进行建模，提高了负荷预测的准确性和稳定性。
三、电力负荷优化技术电力负荷优化技术是指在电力供需不平衡的情况下，通过合理配置电力资源，优化供电能力，实现电力系统的平衡调度。
