案例4:遗传算法优化神经网络-更好拟合函数
- 格式:doc
- 大小:125.00 KB
- 文档页数:15
研究生必备的人工神经网络电子书汇总(31本)这些都是我从淘宝和百度文库里面搜集到的电子书,需要的可以联系我QQ:415295747,或者登录我的博客/u/17236977421.神经网络在应用科学和工程中的应用——从基础原理到复杂的模式识别5 译者序6 前9 致谢10 作者简介11 目录19 第1章从数据到模型:理解生物学、生态学和自然系统的复杂性和挑战27 第2章神经网络基础和线性数据分析模型72 第3章用于非线性模式识别的神经网络105 第4章神经网对非线性模式的学习166 第5章从数据中抽取可靠模式的神经网络模型的实现205 第6章数据探测、维数约简和特征提取235 第7章使用贝叶斯统计的神经网络模型的不确定性评估276 第8章应用自组织映射的方法发现数据中的未知聚类359 第9章神经网络在时间序列预测中的应用458 附录2.MATLB 神经网络30个案例分析第1章BP神经网络的数据分类——语音特征信号分类23 第2章BP神经网络的非线性系统建模——非线性函数拟合33 第3章遗传算法优化BP神经网络——非线性函数拟合48 第4章神经网络遗传算法函数极值寻优——非线性函数极值寻优57 第5章基于BP_Adsboost的强分类器设计——公司财务预警建模66 第6章PID神经元网络解耦控制算法——多变量系统控制77 第7章RBF网络的回归——非线性函数回归的实现85 第8章GRNN的数据预测——基于广义回归神经网络的货运量预测93 第9章离散Hopfield神经网络的联想记忆——数字识别102 第10章离散Hopfield神经网络的分类——高校科研能力评价112 第11章连续Hopfield神经网络的优化——旅行商问题优化计算124 第12章SVM的数据分类预测——意大利葡萄酒种类识别134 第13章SVM的参数优化——如何更好的提升分类器的性能145 第14章SVM的回归预测分析——上证指数开盘指数预测153 第15章SVM的信息粒化时序回归预测——上证指数开盘指数变化趋势和变化空间预测165 第16章自组织竞争网络在模式分类中的应用——患者癌症发病预测171 第17章SOM神经网络的数据分类——柴油机故障诊断182 第18章Elman神经网络的数据预测——电力负荷预测模型研究188 第19章概率神经网络的分类预测——基于PNN的变压器故障诊断195 第20章神经网络变量筛选——基于BP的神经网络变量筛选200 第21章LVQ神经网络的分类——乳腺肿瘤诊断210 第22章LVQ神经网络的预测——人脸朝向识别220 第23章小波神经网络的时间序列预测——短时交通流量预测230 第24章模糊神经网络的预测算法——嘉陵江水质评价241 第25章广义神经网络的聚类算法——网络入侵聚类248 第26章粒子群优化算法的寻优算法——非线性函数极值寻优255 第27章遗传算法优化计算——建模自变量降维270 第28章基于灰色神经网络的预测算法研究——订单需求预测280 第29章基于Kohonen网络的聚类算法——网络入侵聚类289 第30章神经网络GUI的实现——基于GUI的神经网络拟合、模式识别、聚类2.MATLAB 神经网络仿真与应用章节信息7 目录15 第1章神经网络概述38 第2章感知神经网络64 第3章自组织竞争神经网络106 第4章BP神经网络143 第5章线性神经网络171 第6章径向基函数神经网络196 第7章反馈神经网络及MA TLAB实现228 第8章神经网络预测与控制273 第9章神经网络优化及故障诊断302 第10章图形用户界面设计334 参考文献4.混合神经网络技术7 目录11 第1章绪论26 第2章基础知识43 第3章BP神经网络70 第4章RBF神经网络84 第5章Hopfield神经网络96 第6章随机神经网络114 第7章遗传神经网络158 第8章粒子群神经网络193 第9章模糊神经网络244 第lO章混沌神经网络293 第11章小波神经网络331 第12章神经网络集成356 附录5.神经网络控制(第三版)7 目录13 第1章绪19 第2章神经网络理论基础63 第3章基于神经网络的系统辨识101 第4章神经网络控制142 第5章遗传算法与神经控制179 附录203 参考文献6.脉冲耦合神经网络与数字图像处理丛书题名:智能科学技术著作丛书主要责任者:马义德主题词:神经网络; 数字图像处理出版者:科学出版社ISBN:978-7-03-022389-0出版地:北京出版日期:200807页数:3047 《智能科学技术著作丛书》序9 前13 目录21 第1章脉冲耦合神经网络50 第2章图像滤波及脉冲噪声滤波器77 第3章脉冲耦合神经网络在图像分割中的应用142 第4章脉冲耦合神经网络与图像编码185 第5章脉冲耦合神经网络与图像增强195 第6章脉冲耦合神经网络与图像融合210 第7章脉冲耦合神经网络与形态学245 第8章脉冲耦合神经网络在特征提取中的应用278 第9章脉冲耦合神经网络与数字图像签名技术292 第10章脉冲耦合神经网络与组合决策优化306 第11章脉冲耦合神经网络和小波变换322 参考文献7.混沌系统的模糊神经网络控制理论与方法主要责任者:谭文; 王耀南主题词:混沌学; 应用; 模糊控制; 神经网络出版者:科学出版社ISBN:978-7-03-021258-0出版地:北京出版日期:200805页数:2364 内容简介5 前7 目录13 第1章绪论37 第2章模糊神经网络控制理论基础70 第3章神经网络在混沌控制中的作用83 第4章基于径向基神经网络的非线性混沌控制99 第5章超混沌系统的模糊滑模控制111 第6章不确定混沌系统的模糊自适应控制120 第7章模糊神经网络在混沌时间序列预测中的应用134 第8章混沌系统的混合遗传神经网络控制150 第9章不确定混沌系统的模糊神经网络自适应控制165 第10章基于动态神经网络的混沌系统控制200 第11章基于线性矩阵不等式方法的混沌系统模糊控制223 第12章基于递归神经网络的不确定混沌系统同步245 结束语8. 智能预测控制及其MATLB 实现(第2版)丛书题名:自动控制技术应用丛书主要责任者:李国勇主题词:人工智能; 预测控制; 计算机辅助计算; 软件包出版者:电子工业出版社ISBN:978-7-121-10147-2出版地:北京出版日期:201001页数:3364 内容简介5 前7 目录13 第一篇神经网络控制及其MA TLAB实现13 第1章神经网络控制理论87 第2章MATLAB神经网络工具箱函数160 第3章基于Simulink的神经网络控制系统175 第二篇模糊逻辑控制及其MATLAB实现175 第4章模糊逻辑控制理论208 第5章MA TLAB模糊逻辑工具箱函数237 第6章模糊神经和模糊聚类及其MA TLAB实现267 第三篇模型预测控制及其MATLAB实现267 第7章模型预测控制理论281 第8章MA TLAB预测控制工具箱函数320 第9章隐式广义预测自校正控制及其MA TLAB实现334 附录A 隐式广义预测自校正控制仿真程序清单341 附录B MA TLAB函数一览表347 附录C MA TLAB函数分类索引349 参考文献9. 基于神经网络的优化设计及应用主要责任者:孙虎儿出版者:国防工业出版社ISBN:978-7-118-06282-3出版地:北京出版日期:200905页数:111目录11 第1章绪论11 1.1 优化设计发展概况20 1.2 信号处理的主要方法22 1.3 正交设计方法25 1.4 基于神经网络的立体正交优化设计概述28 第一篇基拙理论篇28 第2章基于小波变换的信号处理28 2.1 小波变换的源起与发展概述30 2.2 小波分析基础34 2.3 小波分析的工程解释35 2.4 基于小波分析的信号处理38 第3章神经网络结构的确定38 3.1 神经网络综论42 3.2 神经网络的基本原理47 3.3 人工神经网络的建模53 3.4 前馈型神经网络57 第4章正交设计法57 4.1 正交设计法的基本内容60 4.2 正交设计法的基本内容60 4.3 有交互作用的正交设计法63 4.4 方差分析法67 第二篇创新篇67 第5章立体正交表67 5.1 建立立体正交表70 5.2 立体正交表的基本性质71 5.3 立体正交试验的误差分析75 第6章立体正交优化设计75 6.1 立体正交优化设计概述77 6.2 立体正交优化设计的建模基础78 6.3 立体正交优化设计的特点79 6.4 立体正交设计的步骤及实现85 第三篇实践篇85 第7章液压振动筛参数优化设计与试验85 7.1 振动筛基本原理89 7.2 试验台设计91 7.3 模拟试验101 7.4 液压振动筛参数的立体正交优化设计108 第8章液压激振压路机的液压振动系统优化108 8.1 液压激振压路机基本原理110 8.2 液压振动轮的模型试验117 参考文献10.神经网络稳定性理论主要责任者:钟守铭; 刘碧森; 王晓梅; 范小明主题词:人工神经网络; 运动稳定性理论; 高等学校; 教材出版者:科学出版社ISBN:978-7-03-02116-2出版地:北京出版日期:200806页数:289内容简介5 前7 目录11 第1章绪论73 第2章Hopfield型神经网络的稳定性97 第3章细胞神经网络的稳定性150 第4章二阶神经网络的稳定性212 第5章随机神经网络的稳定性243 第6章神经网络的应用291 参考文献11. 神经模糊控制理论及应用丛书题名:自动控制技术应用丛书主要责任者:李国勇主题词:神经网络; 应用; 模糊控制出版者:电子工业出版社ISBN:978-7-121-07537-7出版地:北京出版日期:200901页数:3326 目录10 第一篇神经网络理论及其MA TLAB实现12 第1章神经网络理论77 第2章MATLAB神经网络工具箱191 第3章神经网络控制系统218 第二篇模糊逻辑理论及其MATLAB实现220 第4章模糊逻辑理论258 第5章MA TLAB模糊逻辑工具箱295 第6章模糊神经和模糊聚类及其MA TLAB实现327 附录A MA TLAB程序清单334 附录B MA TLAB函数一览表340 附录C MA TLAB函数分类索引342 参考文献12.时滞递归神经网络主要责任者:王林山主题词:时滞; 递归论; 神经网络出版者:科学出版社ISBN:978-7-03-020533-9出版地:北京出版日期:200804页数:254出版说明9 前言13 目录15 第1章概述29 第2章几类递归神经网络模型44 第3章时滞局域递归神经网络的动力行为116 第4章时滞静态递归神经网络的动力行为154 第5章时滞反应扩散递归神经网络的动力行为214 第6章时滞反应扩散方程的吸引子与波动方程核截面的Hausdorff维数估计244 第7章Ляпунов定理的推广与矩阵微分方程的渐近行为研究265 索引13. 神经网络实用教程丛书题名:普通高等教育“十一五”规划教材主要责任者:张良均; 曹晶; 蒋世忠主题词:人工神经元网络; 高等学校; 教材出版者:机械工业出版社ISBN:978-7-111-23178-3出版地:北京出版日期:200802页数:1840001 7 目录0002 5 前言0003 11 第1章人工神经网络概述0004 19 第2章实用神经网络模型与学习算法0005 83 第3章神经网络优化方法0006 98 第4章nnToolKit神经网络工具包0007 135 第5章MA TLAB混合编程技术0008 175 第6章神经网络混合编程案例0009 181 附录2NDN神经网络建模仿真工具0010 194 参考文献14.细胞神经网络动力学主要责任者:黄立宏; 李雪梅主题词:神经网络; 细胞动力学; 生物数学出版者:科学出版社ISBN:978-7-03-018109-1出版地:北京出版日期:200704页数:3334 内容简介5 前7 目录9 第一章细胞神经网络的模型及基本概念30 第二章基本理论60 第三章细胞神经网络的完全稳定性118 第四章细胞神经网络的全局渐近稳定性和指数稳定性176 第五章细胞神经网络的周期解与概周期解242 第六章细胞神经网络的动力学复杂性285 第七章一维细胞神经网络的动力学性质322 参考文献15. 人工神经网络基础丛书题名:研究生用教材主要责任者:丁士圻; 郭丽华主题词:人工神经元网络出版者:哈尔滨工程大学出版社ISBN:978-7-81133-206-3出版地:哈尔滨出版日期:200803页数:2084 内容简介5 前7 目录9 第1章绪论44 第2章前向多层网络86 第3章Hopfield网络110 第4章波尔兹曼机(BM)网络简介131 第5章自组织特征映射网络(SOFM)163 第6章ART网络197 第7章人工神经网络的软件实践和仿真15.智能控制理论及应用丛书题名:国家精品课程教材主要责任者:师黎; 陈铁军; 等主题词:智能控制出版者:清华大学出版社ISBN:978-7-302-16157-8出版地:北京出版日期:200904页数:408目录17 第1章绪论30 第2章模糊控制91 第3章模糊建模和模糊辨识118 第4章神经网络控制227 第5章模糊神经网络259 第6章专家系统301 第7章遗传算法333 第8章蚁群算法351 第9章DNA计算与基于DNA的软计算389 第10章其他智能控制16. 人工神经网络及其融合应用技术∙丛书题名:智能科学技术著作丛书∙主要责任者:钟珞 ; 饶文碧 ; 邹承明∙主题词:人工神经元网络 ; 研究∙出版者:科学出版社∙ISBN:978-7-03-018325-5∙出版地:北京∙出版日期:200701∙页数:1607 目录13 第1章绪论24 第2章前馈型神经网络47 第3章反馈型神经网络58 第4章自组织型神经网络72 第5章量子神经网络81 第6章神经网络与遗传算法103 第7章神经网络与灰色系统123 第8章神经网络与专家系统139 第9章模糊神经网络159 参考文献164 附录Matlab简介17.智能技术及其应用:邵世煌教授论文集∙主要责任者:丁永生 ; 应浩 ; 等∙主题词:人工智能 ; 文集∙出版者:科学出版社∙ISBN:978-7-03-023230-4∙出版地:北京∙出版日期:200902∙页数:573目录15 治学之路,开拓之道117 解析模糊控制理论:模糊控制系统的结构和稳定性分析127 不同模糊逻辑下模糊控制器的解析结构134 一个基于“类神经元”模型的智能控制系统及其在柔性臂上的应用研究142 交通系统的模糊控制及其神经网络实现149 采用遗传算法学习的神经网络控制器164 一种采用增强式学习的模糊控制系统研究169 基因算法及其在最优搜索上的应用191 DNA计算与软计算199 采用DNA遗传算法优化设计的TS模糊控制系统206 DNA计算研究的现状与展望223 混沌系统的一种自学习模糊控制228 用遗传算法引导混沌轨道405 模糊环境的表示及机器人轨迹规划409 多变地形下机器人路径规划415 一个环境知识的自学习方法444 含有模糊和随机参数的混合机会约束规划模型469 基于规则的模糊离散事件系统建模与控制研究491 基于最优HANKEL范数近似的线性相位IIR滤波器设计507 自适应逆控制的异步电机变频调速系统研究514 带有神经网络估计器的模糊直接转矩控制551 基于移动Agent的数字水印跟踪系统的设计和实现573 采用元胞自动机机理的针织电脑编织系统591 语词计算的广义模糊约束及其传播研究598 后记18.人工神经网络原理及应用∙丛书题名:现代计算机科学技术精品教材∙主要责任者:朱大奇 ; 史慧∙主题词:人工神经元网络∙出版者:科学出版社∙ISBN:7-03-016570-5∙出版地:北京∙出版日期:200603∙页数:218目录12 第1章人工神经网络的基础知识44 第2章BP误差反传神经网络76 第3章Hopfield反馈神经网络104 第4章BAM双向联想记忆神经网络117 第5章CMAC小脑神经网络139 第6章RBF径向基函数神经网络155 第7章SOM自组织特征映射神经网络175 第8章CPN对偶传播神经网络190 第9章ART自适应谐振理论210 第10章量子神经网络19.软计算及其应用要责任者:温显斌; 张桦; 张颖等主题词:电子计算机; 计算方法出版者:科学出版社ISBN:978-7-03-023427-8出版地:北京出版日期:200902页数:189前7 目录11 第1章绪论24 第2章模拟退火算法45 第3章人工神经网络93 第4章遗传算法138 第5章支持向量机162 第6章模糊计算20计算智能与科学配方∙主要责任者:冯天瑾 ; 丁香乾∙其他责任者:杨宁 ; 马琳涛∙主题词:人工智能 ; 神经网络 ; 计算 ; 研究∙出版者:科学出版社∙ISBN:978-7-03-020603-9∙出版地:北京∙出版日期:200801∙页数:272前10 目录16 第一章绪论38 第二章产品配方与感觉品质评估65 第三章神经网络与感觉评估99 第四章知识发现与复杂相关性分析154 第五章模式识别与原料分类187 第六章支持向量机方法214 第七章进化计算配方寻优方法243 第八章计算智能的若干哲理256 第九章人机交互智能配方系统278 参考文献287 致谢21.计算智能与计算电磁学主要责任者:田雨波; 钱鉴主题词:人工智能; 神经网络; 计算; 研究出版者:科学出版社ISBN:978-7-03-021201-6出版地:北京出版日期:200804页数:2337 目录11 第1章绪论19 第2章遗传算法基本原理50 第3章遗传算法电磁应用98 第4章模糊理论基本原理122 第5章神经网络基本原理188 第6章神经网络电磁应用235 附录1 计算智能和计算电磁学相关网站236 附录2 相关程序22.脉冲耦合神经网络原理及其应用丛书题名:智能科学技术著作丛书主要责任者:马义德主题词:神经网络; 理论; 应用出版者:科学出版社ISBN:7-03-016657-4出版地:北京出版日期:200604页数:1826 内容简介9 《智能科字技术著作丛书》库11 前15 目录19 第1章神经网络图像处理技术34 第2章PCNN模型及其应用概述49 第3章PCNN在图像滤波中的应用66 第4章PCNN在图像分割中的应用120 第5章PCNN在图像编码中的应用137 第6章PCNN与图像增强152 第7章PCNN与粗集理论、形态学和小波变换182 第8章PCNN的其他应用23.人工神经网络教程主要责任者:韩力群主题词:人工神经元网络; 研究生; 教材出版者:北京邮电大学出版社ISBN:7-5635-1367-1出版地:北京出版日期:200612页数:3307 序9 目录17 第1章绪论38 第2章人工神经网络建模基础63 第3章感知器神经网络100 第4章自组织竞争神经网络143 第5章径向基函数神经网络162 第6章反馈神经网络192 第7章小脑模型神经网络201 第8章支持向量机218 第9章遗传算法与神经网络进化237 第10章神经网络系统设计与软硬件实现267 第11章人工神经系统281 附录A 常用算法的MA TLAB程序298 附录B 常用神经网络源程序340 附录C 神经网络常用术语英汉对照344 参考文献24.神经网络专家系统主要责任者:冯定主题词:人工神经元网络出版者:科学出版社ISBN:7-03-017734-7出版地:北京出版日期:200609页数:3487 目录11 第1章从专家系统到神经网络专家系统22 第2章神经网络设计75 第3章数据的前后处理94 第4章神经网络专家系统中的模糊数146 第5章基于神经网络的知识表示199 第6章机器学习218 第7章基于神经网络的推理251 参考文献254 附录神经网络源程序25.神经网络新理论与方法主要责任者:张代远主题词:人工神经元网络出版者:清华大学出版社ISBN:7-302-13938-5出版地:北京出版日期:200611页数:1259 目录11 第1章概论17 第2章基本概念24 第3章实神经网络的代数算法44 第4章全局最小值分析51 第5章复数神经网络的代数算法61 第6章样条权函数神经网络及其学习算法124 第7章神经网络的统计灵敏度分析26.人工神经网络算法研究及应用主要责任者:田景文; 高美娟主题词:人工神经元网络; 计算方法; 研究出版者:北京理工大学出版社ISBN:7-5640-0786-9出版地:北京出版日期:200607页数:2837 目录9 第1章绪论32 第2章人工神经网络49 第3章改进遗传算法的径向基函数网络方法研究及应用95 第4章小波变换及小波神经网络方法研究及应用140 第5章模糊神经网络方法研究及应用189 第6章改进的模拟退火人工神经网络方法研究及应用235 第7章支持向量机方法研究及应用278 第8章结论281 参考文献27.神经计算与生长自组织网络主要责任者:程国建主题词:人工神经元网络; 计算; 自组织系统出版者:西安交通大学出版社ISBN:978-7-5605-2979-0出版地:西安出版日期:200810页数:242内容简介5 作者简介7 前17 目录23 第1章神经计算概述37 第2章人工神经网络的基本结构及其特性56 第3章神经感知器69 第4章自适应线性元件87 第5章多层前馈神经网络105 第6章径向基函数网络118 第7章古典生长型神经网络135 第8章生长型自组织神经网络158 第9章生长神经元结构及其变种182 第10章外生长型神经元结构206 第11章多生长神经元结构230 第12章双生长神经气网络252 参考文献28.神经计算原理丛书题名:计算机科学丛书主要责任者:(美)科斯塔尼克其他责任者:叶世伟; 王海娟主题词:突然南宫神经元网络; 计算出版者:机械工业出版社ISBN:978-7-111-20637-8出版地:北京出版日期:200705页数:491出版者的话7 专家指导委员会8 译者序9 前12 致谢13 重要符号和算符17 重要缩写词20 目录25 第一部分神经计算的基本概念和部分神经网络体系结构及其学习规则25 第1章神经计算概述40 第2章神经计算的基本概念95 第3章映射网络144 第4章自组织网络168 第5章递归网络和时间前馈网络201 第二部分神经计算的应用201 第6章用神经网络解决最优化问题238 第7章用神经网络解决矩阵代数问题275 第8章使用神经网络求解线性代数方程组318 第9章使用神经网络的统计方法372 第10章使用神经网络进行辨识、控制和枯计435 附录A 神经计算的数学基础497 主题索引29. 人工神经网络与模拟进化计算主要责任者:阎平凡主题词:人工神经元网络; 计算出版者:清华大学出版社ISBN:7-302-10663-0出版地:北京出版日期:200509页数:639出版说明9 前11 第一版前15 目录27 第1章绪论37 第2章前馈网络77 第3章径向基函数网络112 第4章学习理论与网络结构选择166 第5章核方法与支持向量机210 第6章自组织系统(Ⅰ)236 第7章自组织系统(Ⅱ)271 第8章自组织系统(Ⅲ)302 第9章动态信号与系统的处理361 第10章多神经网络集成386 第11章反馈网络与联想存储器424 第12章神经网络用于优化计算441 第13章神经网络中的动力学问题463 第14章误差函数与参数优化方法487 第15章贝叶斯方法505 第16章神经网络在信号处理中的应用552 第17章进化计算概论与进化策略575 第18章遗传算法及其理论分析596 第19章遗传算法的设计与实现619 第20章遗传算法在神经网络中的应用626 第21章遗传算法在作业调度中的应用636 第22章分布估计算法660 索引30.人工神经网络与盲信号处理主要责任者:杨行竣; 郑君里主题词:人工神经元网络; 信号处理; 应用; 人工神经元网络出版者:清华大学出版社ISBN:7-302-05880-6出版地:北京出版日期:200301页数:3997 目录11 第1章绪论33 第2章前向多层神经网络与递归神经网络123 第3章自组织神经网络163 第4章Hopfield神经网络244 第5章模糊神经网络311 第6章遗传算法及其在人工神经网络中的应用337 第7章盲信号处理31.人工神经网络理论、设计及应用(第二版)主要责任者:韩力群主题词:人工神经元网络; 高等学校; 教材出版者:化学工业出版社ISBN:978-7-5025-9523-4出版地:北京出版日期:2000709页数:2437 前9 目录15 1 绪论34 2 神经网络基础知识52 3 监督学习神经网络85 4 竞争学习神经网络121 5 组合学习神经网络133 6 反馈神经网络168 7 小脑模型神经网络178 8 基于数学原理的神经网络207 9 神经网络的系统设计与软件实现220 10 神经网络研究展望223 附录1 常用神经网络C语言源程序254 附录2 神经网络常用术语英汉对照256 参考文献。
基于遗传LMBP神经网络模型的股票预测齐晓娜;程维刚【摘要】股票市场是一个高度非线性的系统,通过传统的方法建立较为精确的预测模型比较困难。
文章建立了基于遗传算法的LMBP神经网络组合预测模型。
利用遗传算法优化BP神经网络的连接权和阈值。
采用LMBP算法改进模型的收敛速度。
实例验证表明,在建模样本和预测因子相同的条件下,该模型比传统BP网络的预测结果稳定且精度高。
%Stock market is a highly nonlinear system, and it is dififcult to establish a more accurate prediction model by the traditional method. A combined forecasting model of LMBP neural network based on genetic algorithm is established. Using genetic algorithm to optimize the connection weights and thresholds of BP neural network. The convergence rate of the improved model is improved by using LMBP algorithm. Under the same conditions as the modeling samples and the prediction factors, feasibility and validity of this model has been veriifed by concrete examples.【期刊名称】《无线互联科技》【年(卷),期】2016(000)003【总页数】2页(P86-87)【关键词】遗传算法;LMBP算法;组合算法;股票预测【作者】齐晓娜;程维刚【作者单位】河北金融学院,河北保定 071051;河北金融学院,河北保定071051【正文语种】中文股票的高收益特点使它逐步成为人们投资理财的主要选择,但是股票投资的高回报也面临着高风险,因此股票的预测具有重要的意义及应用价值。
人工神经网络-遗传算法优化密花石斛多糖超声辅助提取工艺王正明;洪胜;罗建平【摘要】[Objective] To investigate the process parameters for ultrasonic-assisted extraction of polysaccharides from Dendrobium densiflorum.[Method] Based on single-factor experiments and Box-Behnken design,artificial neural networks (ANN) were combined with genetic algorithms (GA) to optimize the ultrasonic-assisted extraction process parameters of polysaccharides from D.densiflorum.[Result] The optimal process parameters for ultrasonic-assisted extraction ofD.densiflorum polysaccharides were as follows:ultrasonic temperature59 ℃,ultrasonic power 424 W and ultrasonic time 99 min.The polysaccharide extraction yield was 37.99 mg/g under these conditions.[Conclusion] The study optimized the ultrasonic-assisted extraction parameters of polysaccharides from D.densiflorum,which will provide a reference for further development of D.densiflorum.%[目的]研究密花石斛多糖超声波辅助提取的工艺参数.[方法]在单因素试验的基础上,采用Box-Behnken试验设计,运用人工神经网络结合遗传算法优化密花石斛多糖的超声波辅助提取工艺参数.[结果]密花石斛多糖超声辅助提取的最佳工艺参数为:超声温度59℃,超声功率424 W,超声时间99 min;在此工艺条件下,多糖的提取率为37.99 mg/g.[结论]试验优选了密花石斛多糖的超声波辅助提取工艺,为密花石斛的进一步开发研究提供依据.【期刊名称】《安徽农业科学》【年(卷),期】2013(041)013【总页数】4页(P5710-5712,5715)【关键词】人工神经网络;遗传算法;密花石斛(Dendrobium densiflorum Lindl.ex Wall);多糖;超声波辅助提取【作者】王正明;洪胜;罗建平【作者单位】合肥工业大学生物与食品工程学院,安徽合肥230009;合肥工业大学生物与食品工程学院,安徽合肥230009;合肥工业大学生物与食品工程学院,安徽合肥230009【正文语种】中文【中图分类】S567石斛多糖具有增强机体免疫力、降血糖、抗氧化和抗肿瘤等生理活性[1-2],受到人们的广泛关注。
多元函数多参数拟合算法一、引言在实际问题中,常常需要通过已知数据来拟合多元函数,以建立模型或预测未知数据。
多元函数多参数拟合算法是一种有效的方法,可以通过最小化误差来找到最佳的函数参数,并将其应用于各种领域,如物理学、生物学和工程学等。
二、多元函数多参数拟合算法的基本原理多元函数多参数拟合算法基本原理如下:1.确定拟合函数的类型:根据问题的特性和已知数据的分布,选择合适的函数类型,如线性函数、多项式函数或指数函数等。
2.确定评估指标:选择适当的评估指标,如残差平方和、相关系数或平均绝对百分比误差等,来衡量拟合效果的好坏。
3.选择优化方法:根据拟合函数和评估指标的选择,确定合适的优化方法,如最小二乘法、梯度下降法或遗传算法等,来优化拟合参数的估计。
4.确定初值和停止准则:选择合适的初值来启动优化算法,并设定停止准则,如最大迭代次数或目标误差的容忍度等。
5.应用优化算法:通过应用选择的优化算法,迭代地更新参数估计,直到满足停止准则为止。
三、常用的多元函数多参数拟合算法1. 最小二乘法最小二乘法是一种常用的拟合算法,通过最小化残差平方和来估计拟合参数。
具体步骤如下:1.假设拟合函数为线性函数或非线性函数。
2.建立目标函数,即残差平方和。
3.对目标函数求偏导,得到参数估计的闭式解或迭代近似解。
4.根据停止准则,判断是否满足停止条件,如果不满足,则继续迭代更新参数。
2. 梯度下降法梯度下降法是一种常用的优化算法,通过迭代更新参数来最小化评估指标。
具体步骤如下:1.假设拟合函数为线性函数或非线性函数。
2.初始化参数估计的初值。
3.计算评估指标的梯度,即参数估计函数对于评估指标的偏导数。
4.更新参数估计,即根据梯度的方向和步长来更新参数。
5.根据停止准则,判断是否满足停止条件,如果不满足,则继续迭代更新参数。
3. 遗传算法遗传算法是一种模拟自然进化过程的优化算法,通过交叉、变异和选择等操作来搜索最优解。
具体步骤如下:1.假设拟合函数为线性函数或非线性函数。
GA-BP神经网络仿真[摘要]:本文主要是对基于遗传算法优化的BP神经网络(GA-BP)进行仿真,BP神经网络在BP神经网络中已经做详细介绍,本文首先介绍了遗传算法的基本原理,然后对遗传算法进行了描述,最后给出用遗传算法优化BP神经网络的程序。
[关键词]:GA-BP;遗传算法;仿真1遗传算法遗传算法(Genetic Algorithm, GA)起源于对生物系统所进行的计算机模拟研究。
它是模仿自然界生物进化机制发展起来的随机全局搜索和优化方法,借鉴了达尔文的进化论和孟德尔的遗传学说。
其本质是一种高效、并行、全局搜索的方法,能在搜索过程中自动获取和积累有关搜索空间的知识,并自适应地控制搜索过程以求得最佳解。
1.1遗传算法基本原理遗传算法GA—模拟自然界遗传机制和生物进化论而成的一种并行随机搜索最优化方法。
(具有“生存+检测”的迭代过程的搜索算法)基于自然界“优胜劣汰,适者生存”的生物进化原理引入优化参数形成的编码串联群体中,按照所选择的适应度函数并通过遗传中的选择、交叉和变异对个体进行筛选,使适应度值好的个体被保留,适应度差的个体被淘汰,新的群体既继承了上一代的信息,又优于上一代。
反复循环,直至满足条件。
1.2遗传算法基本步骤种群中的每个个体是问题的一个解,称为“染色体”,染色体是一串符号,如二进制字符串。
利用“适值”(适应性函数)测量染色体的好坏。
遗传算法基本操作分为:(1)选择操作:以一定概率选择旧群体个体到新群体中,个体被选中的概率跟适应度值有关个体适应度越好被选中改了吧越大。
(2)交叉操作:信息交换思想选两个个体交换组合产生新的优秀个体,染色体位置互换。
(3)变异操作:—以一定的低概率发生,染色体位置产生变异(通常取值0.001-0.01之间)。
遗传算法是具有高效启发式搜索、并行计算等特点,应用于函数优化、组合优化及生产调度等方面。
1.3 算法实现1.3.1 种群初始化个体编码方法为实数编码,每隔个体均为一个实数串,由输入层和隐含层连接权值、隐含层阈值、隐含层与输出层连接权值以及输出层阈值4个部分组成。
基于遗传算法的流水车间调度问题中文摘要流水车间调度问题是研究多个工件在若干个机器上的加工次序的问题,有效的调度算法对企业提高生产效率有着重要作用。
本文使用遗传算法求解流水车间调度问题,把一个染色体编码成若干个自然数,表示相应工件的排序权值;通过简单交换两个父代的若干相同位置的基因,产生能够继承父代优良特性的子代;并且采用均匀变异,更好地保持种群中的基因的多样性。
实验表明,该方法能取得较好的效果。
关键字:遗传算法,流水车间调度方法,实数编码,基因链码,群体,适应度。
外文摘要Abstract: Flow-shop scheduling problem study the problem the processing sequence of A plurality of workpieces on some working machine,and it makes good effects on proving production efficiency to the industries with effective methods.In the case,we deal with flow-shop scheduling problem using a algorithm,the Genetic Algorithm.There is a chromosome we've just coded into some natural numbers to represent the weight order of these workpieces; exchanging simply two fathers' places of some gene to produce new children that carried good feature on two fathers;we also use the Uniform Mutation,and it keeps its diversity of gene on the population.This experiment show this method can achieve good results.Key Words: Genetic Algorithm, Flow-shop scheduling problem,natural number coding,genic bar code,group,fitness.目录中文摘要 (1)外文摘要 (2)目录 (3)1 引言 (4)1.1 论文的发展背景及重要性 (4)1.1.1 时代背景 (4)1.1.2 论文研究的重要性 (4)1.2 论文的研究问题及解决方法 (4)2 FSP问题描述 (5)2.1 排序问题的基本概念 (5)2.1.1 名词术语 (5)2.1.2 条件假设 (5)2.2车间作业排序问题的特点 (6)2.3 车间作业排序问题 (6)2.3.1 目标函数 (6)2.3.2 车间调度问题的分类 (7)3 遗传算法理论 (7)3.1 遗传算法的产生和发展 (7)3.2 遗传算法的基本思想 (8)3.2.1 基本概念 (8)3.2.2 遗传算法的基本思想 (9)4 基于遗传算法的流水车间调度方法 (11) 4.1 问题的提出 (11)4.2 遗传算法基本步骤 (11)4.2.1 编码 (11)4.2.2 初始群体生成 (12)4.2.3 适应度计算 (12)4.2.4 选择 (14)4.2.5 交叉 (15)4.2.6 变异 (17)4.2.7 终止 (19)5. 研究成果 (20)5.1 算法求解与分析 (20)5.2 实验结果 (21)参考文献 (22)附录 (23)1 引言1.1 论文的发展背景及重要性1.1.1 时代背景从第一次工业革命起,由于科技的进步人类社会就开始了一个经济腾飞的大时代。
㊀2021年㊀第1期仪表技术与传感器Instrument㊀Technique㊀and㊀Sensor2021㊀No 1㊀基金项目:国家自然科学基金项目(61672369)收稿日期:2020-01-13基于GA-BP神经网络的非线性模拟量回归周㊀欣,王宜怀,姚望舒,葛新越(苏州大学计算机科学与技术学院,江苏苏州㊀215006)㊀㊀摘要:针对嵌入式系统中传感器测量模拟量与采样值之间的非线性关系难以找寻确定公式进行表达的问题,提出使用BP神经网络对非线性模拟量进行回归拟合㊂并针对BP神经网络易陷入局部极小值的缺陷,采用遗传算法进行优化㊂实验表明,与最小二乘法与三次样条插值法相比,BP神经网络对曲线拟合程度优于其余两种方法,且具有较高的准确度㊂遗传算法优化后的BP神经网络,能够更加快速收敛,准确度也进一步提升㊂同时将网络模型应用在MCU端,实现在MCU端的预测与参数更新,具有一定的实用性和适应性㊂关键词:嵌入式系统;模拟量;非线性;回归拟合;BP神经网络;遗传算法中图分类号:TP273㊀㊀㊀文献标识码:A㊀㊀㊀文章编号:1002-1841(2021)01-0084-05NonlinearAnalogRegressionBasedonGA-BPNeuralNetworkZHOUXin,WANGYi⁃huai,YAOWang⁃shu,GEXin⁃yue(SchoolofComputerScienceandTechnology,SoochowUniversity,Suzhou215006,China)Abstract:Aimingattheproblemthatthenon⁃linearrelationshipbetweentheanalogquantitymeasuredbythesensorandthesampledvalueintheembeddedsystemwasdifficulttofindacertainformulatoexpress,aregressionfittingusingBPneuralnet⁃workwasproposed.AndinordertosolvetheproblemthattheBPneuralnetworkiseasytofallintothelocalminimum,thegeneticalgorithmwasusedforoptimization.Experimentsshowthatcomparedwiththetraditionalleastsquaremethodandcubicsplinein⁃terpolationmethod,theBPneuralnetworkwasbetterthantheothertwomethodsincurvefitting,andhashigheraccuracy.Andthegeneticalgorithm⁃optimizedBPneuralnetworkcanconvergemorequicklyandtheaccuracywasfurtherimproved.AndapplyingthenetworkmodeltotheMCUtoachievepredictionandparameterupdateontheMCUhascertainpracticalityandadaptability.Keywords:embeddedsystem;analog;nonlinear;regressionfitting;BPneuralnetwork;geneticalgorithm0㊀引言在嵌入式测控系统中,控制终端通过传感器对外界信息进行检测,经由放大电路㊁模数转换模块(analogtodigitalconvertmodule,A/D转换模块)等,转换成能被终端识别的数字信号(又称为A/D值)㊂为便于测控系统使用,需将A/D值与实际外界信息对应,此对应过程可称之为物理量回归㊂目前常见的物理量回归方法[1]有公式法,查表法,分段直线法,最小二乘法及三次样条插值法等㊂但受采样过程中传感器自身采样特性,放大电路与A/D转换模块转换过程中所具有的非线性变换等因素的影响,待回归A/D值与回归后的物理量之间成非线性关系㊂上述方法虽可用于解决物理量回归问题,但存在一定的缺陷㊂如公式法利用固定数字公式进行转换,速度快,但准确度不高;查表法根据输入输出表格进行查找,占用空间过大;分段直线法的分段越多,精度越高,但其复杂性也不断增加;而最小二乘法和三次样条插值法是通过采样数据确定相应的匹配函数,针对不同情况需重新确认公式,且非线性关系较为复杂,不易确定合适公式㊂针对上述情况,本文提出以A/D值作为输入,传感器测量的实际模拟量作为输出,使用BP神经网络进行回归拟合㊂并针对BP神经网络易陷入局部极小值的问题,选择使用遗传算法进行参数优化㊂将遗传算法优化后的BP神经网络与最小二乘法㊁三次样条插值法及传统BP神经网络进行比较,实验表明,通过GA-BP算法能够有效的提高物理量回归的精度㊂同时提出一种回归模型在MCU端应用的方法,该方法能够较好地在MCU进行物理量回归及参数更新,具有一定的实用性和适应性㊂1㊀GA-BP神经网络回归模型1.1㊀BP神经网络反向传播(backpropagation,BP)学习算法,是一㊀㊀㊀㊀㊀第1期周欣等:基于GA-BP神经网络的非线性模拟量回归85㊀㊀种基于误差反向传播的前向多层反馈的人工神经网络算法㊂通过梯度下降法,寻找实际输出值和目标值之间误差平方的极小值,从而对网络的连接权值进行调整,达到在调整过的网络模型中,对于每一组输入都能得到期望输出的目的[2]㊂以A/D值作为输入,传感器测量模拟量作为输出,可构建单输入输出的神经网络模型㊂理论与实践表明,含有一个隐藏层的BP神经网络具有逼近任何闭区间内一个连续函数的能力[3],因此使用3层神经网络模型进行训练和预测㊂其3层BP神经网络模型如图1所示㊂图1㊀BP神经网络模型在此网络模型中,设训练样例个数为D,网络由1个输入层单元,Q个隐藏层单元,1个输出层单元构成㊂输入层仅进行数据的输入,表示为ad=X,d=1,2,3, ,D为训练样本编号㊂隐藏层使用sigmoid函数作为激活函数,提供非线性变换过程,其输出为hdi=sig(wiad+oi)(1)式中:wi为输入层与隐藏层之间的权值;oi为输入层与输出层的权值,i=1,2,3, ,Q为隐藏层单元数㊂输出层同样使用sigmoid函数,其输出为Y=yd=sig(ðQivihdi+r)(2)式中:r为隐藏层与输出层的阈值;vi为隐藏层节点与输出节点的权值,i=1,2,3, ,Q为隐藏层单元数㊂1.2㊀遗传算法遗传算法(geneticalgorithm,GA)是一种模拟自然生存和遗传机制的最优解搜索算法[4]㊂通过选择㊁交叉和变异对种群进行多次迭代优化,选择符合当前问题的最优解,其进化过程如图2所示㊂图2㊀遗传算法种群进化过程该算法提供了一种求解复杂系统问题的通用框架,其全局搜索策略和优化搜索方法的计算不依赖问题的具体领域,只需要确定影响搜索方向的目标函数和适应度函数,便可以实现最优解搜索㊂1.3㊀GA-BP神经网络算法流程针对传统BP神经网络训练过程易陷入局部极小值的问题,使用遗传算法进行优化㊂将随机生成的初始权值与阈值作为种群的个体,经遗传算法筛选出较为合适的解作为BP神经网络的权值与阈值;由BP神经网络模型进行权值与阈值的进一步调整,得到能够较好反映输入输出非线性关系的训练模型,其训练过程如图3所示㊂图3㊀GA-BP神经网络训练过程其具体执行步骤如下:(1)训练样本归一化㊂使用最大最小值归一化对训练样本进行数据压缩,保留数据特性的同时,加快训练速度㊂(2)确定网络拓扑结构㊂根据训练样本确定隐藏层单元数㊁学习速率与激活函数等网络参数,生成相应的网络拓扑结构㊂(3)生成初始种群㊂随机生成权值与阈值的初始值,并将其作为种群的个体,进行实数编码㊂(4)计算适应度㊂适应度函数为㊀㊀㊀㊀㊀86㊀InstrumentTechniqueandSensorJan 2021㊀f=1E(3)式中:E为遗传算法的目标函数,是BP神经网络训练后实际输出值和目标值之间误差平方和㊂(5)选择父代㊂按适应度大小对个体进行排序,并使用赌轮盘算法[5]筛选出2个个体作为父代㊂(6)随机交叉㊂父代以每层网络的权值与阈值作为基因,采用随机交叉算法,对基因进行组合生成新的子代㊂(7)变异㊂生成子代中,存在一部分个体发生变异,变异概率为0.01㊂变异个体的权值和阈值将重新赋值,生成新的基因㊂(8)是否满足停止条件㊂在不满足停止条件时,从原始种群中选择部分适应度高的个体与新生成子代组成新的种群,重复(4) (7)的步骤继续求解满足情况的权值与阈值㊂(9)权值与阈值的赋值㊂将遗传算法求解的权值与阈值赋值给BP神经网络,通过网络训练进一步实现参数的更新㊂(10)权值与阈值的更新㊂通过网络训练比较全局误差极小值[6]来判断是否生成满足需求的权值与阈值,并使用误差反向传播方法对权值与阈值进行更新,直到满足目标训练次数或目标误差㊂(11)模型生成㊂保存最终权值与阈值及相关参数,生成相应的回归模型㊂2㊀GA-BP的非线性回归实验分析2.1㊀数据的获取本文针对传感器模拟量的非线性问题进行回归分析,故选择随光照强度变化,而阻值成非线性变化的光敏电阻获取训练样本㊂此处选用光敏电阻的型号为GM5506,其阻值随光照强度的升高而降低,使用如图4所示的采样电路,其对应电压范围为[0.55V(亮),3.28V(暗)],可测得[0lux,15000lux]区间内的光照强度㊂图4㊀光敏电阻采样电路控制终端的16位A/D模块与采样点连接,测试获得一组光照强度和对应A/D采样值的训练样本,该训练样本数据能够较好地涵盖测量范围及其变化情况,其数据如表1所示,其中1 18为训练数据,19 26为测试数据㊂表1㊀训练样本 光照强度与A/D值样本为了对不同方法进行比较,引入均方根误差与决定系数对预测效果进行评判㊂均方根误差(rootmeansquarederror,RMSE)计算观测值与真实值之间的偏差,其值越小,预测效果越好㊂RMSE(o,t)=1N-2ðNi=1(o-t)2(4)式中:o为观测值;t为真实值㊂实际使用中使用RMSE/o(o为输出均值)进行判断㊂决定系数又称为拟合优度,通常使用R表示,反映的是回归的拟合程度,其值越大,拟合程度越好,预测性能也就越优㊂R=1-ð(o-t)2ð(o-o)2(5)2.3㊀实验方案与结果本文实验模型使用C#语言编程实现,具有训练与验证功能㊂通过对模型的分析可知,其输入与输出神经元个数均为1㊂采用sigmoid型函数作为激活函数的神经网络具有对任意连续函数的逼近能力[7],故选取sigmoid函数作为激活函数,使用梯度下降法进行权值与阈值的更新㊂隐藏层单元个数的范围可依据经验公式[8]计算得出:q=p+m+α(6)式中:q为隐藏层单元数;p为输入层单元数;m为输出㊀㊀㊀㊀㊀第1期周欣等:基于GA-BP神经网络的非线性模拟量回归87㊀㊀层单元数;α为1 10之间的常数㊂对于回归模型,其隐藏层单元数范围在3 11之间㊂经多次实验验证得出隐藏层单元数为8时,具有更好的拟合效果㊂设定学习速率为0.1,目标误差精度为0.000001,初始权值和阈值随机生成㊂在此网络结构基础上,使用遗传算法对初始权值与阈值进行优化,初始种群大小为100,变异概率为0.01,迭代次数为1000㊂在上述网络中,使用样本中的训练数据进行训练,得到对应的权值与阈值参数如表2所示㊂表2㊀BP神经网络各层参数输入层与隐藏层权值wi输入层与隐藏层阈值oi隐藏层与输出层权值vi隐藏层与输出层阈值r68.8104866010556-0.66003077579745746.73321813933922.73067762764518-1.4613382643164-11.854879783609389.3053999526315-2.42689739802703-21.109017087818332.33091647935413.4269637209893419.160911532471432.730230400004621.01962240528156.16027469240735-2.2545600648712518.74721332834160.161949852000884-6.84377968780148172.0503307777850.950824710764604-70.225607384132317.12623727885054.721111751110490.825034658531259㊀㊀权值与阈值以及网络相关参数共同构成一个GA-BP网络模型㊂使用该网络模型对测试数据进行验证分析,由表3可以看出,光照强度的预测值与实际值误差基本能控制在可接受范围以内㊂表3㊀测试样例输出测试A/D目标输出实际输出误差504592.42.10.3370078.99.70.82504243.444.10.716452127.2126.90.311369261.3260.50.88036501.6500.61.043881159.21158.40.8111712924.512925.00.52.4㊀方法对比2.4.1㊀传统方法与神经网络的对比传统的非线性回归方法有最小二乘法和三次样条插值法㊂最小二乘法通过最小化误差平方和找寻最佳函数匹配[9],三次样条插值法通过三弯矩法并结合边界条件推导系数方程确定对应的回归函数[10],实际是在相邻数据点之间确定一个三次样条函数㊂针对本文使用的训练样本,使用最小二乘法和三次样条插值法进行回归拟合,并使用测试样例与BP神经网络进行验证对比,图5给出各方法的预测结果的回归曲线,并列出各方法的均方根误差和决定系数,如表4所示㊂图5㊀光照强度与A/D值的物理量回归曲线表4㊀传统方法与神经网络的对比回归方法RRMSE最小二乘法0.964970.83197三次样条插值0.971050.75750BP神经网络0.997250.23508㊀㊀综合图5和表4可以看出BP神经网络的预测准确度优于其余2种方法㊂最小二乘法与三次样条插值法的拟合是确定具体公式及其系数,BP神经网络确定网络相关参数㊂3种方法在回归形式上存在一定的区别,但都可转换为使用一定的回归公式进行回归预测㊂不同在于对不同的训练样本,最小二乘法与三次样条插值法需要重新确认公式,而BP神经网络模型的回归公式可不改变,仅需校正权值与阈值㊂同时BP神经网络可以通过不断提升训练次数来减小误差,达到更好的拟合效果,是一种具有较好拟合能力的非线性回归方法㊂2.4.2㊀BP神经网络优化对比由上述对比实验可知,BP神经网络对于传感器㊀㊀㊀㊀㊀88㊀InstrumentTechniqueandSensorJan 2021㊀模拟量的非线性回归问题具有较好的拟合能力㊂但BP神经网络存在易陷入局部极小值的特点,针对此问题使用遗传算法进行优化㊂分别记录下BP神经网络与GA-BP神经网络训练过程中每10000次训练实际值与目标值之间的误差平方和,绘制成如图6所示的曲线㊂并计算相应的均方根误差和决定系数,如表5所示㊂图6㊀GA-BP与BP误差状态表5㊀GA-BP与BP对比回归方法RRMSEBP神经网络0.997250.23508GA-BP神经网络0.999220.12553㊀㊀从图6可以看出,GA-BP神经网络模型在训练过程中的收敛速度明显优于传统BP神经网络㊂同时结合表5可以看出,在训练相同次数的情况下对GA-BP的拟合程度优于传统BP算法,具有更好的预测准确度㊂3㊀BP神经网络在MCU上的应用模型训练过程在PC端完成,而生成的网络模型则应用于MCU端㊂图7为训练模型在MCU端的应用过程㊂针对上述流程,将BP神经网络在MCU端回归预测功能封装成构件,构件中各函数及功能如表6所示㊂按图8所示的结构类型将网络参数存储在固定Flash区域;芯片启动后,使用BPinit函数读取位于Flash区域的存储参数,构建神经网络模型;实时使用A/D转换模块读取传感器A/D采样值后,利用BPpre⁃dict函数进行转换到传感器的实际输出值;同时包含参数更新功能,当计算结果存在误差时,可重新采集训练样本在PC端训练,并将训练结果利用BPUpdate函数将网络模型重新写入相应Flash区域㊂以MKL36Z64[11](简称KL36)芯片和S32K144[12](简称S32K)芯片为例进行MCU端预测实验㊂KL36属于ARMCortex-M0+内核,其对应的Flash为64KB,图7㊀神经网络在MCU端应用表6㊀BP神经网络预测构件函数名称功能BPinitBP网络模型初始化读取位于Flash的参数,并生成网络模型BPpredict预测函数A/D值回归预测BPUpdate参数更新解析更新后的参数并重新写入FlashRAM大小为8KB;而S32K属于ARMCortex-M4内核,其对应的Flash为512KB,RAM大小为60KB;其内置A/D转换模块精度均为16位㊂使用该构件进行光照强度的采样与回归,在KL36与S32K上均能按照如图7所示的流程进行回归预测㊂图8㊀网络参数存储结构体4㊀结束语本文针对非线性传感器A/D值与模拟量之间存在的非线性关系难以确定回归公式进行表达的问题,提出使用BP神经网络对传感器A/D值与模拟量进行回归拟合㊂实验表明,使用BP神经网络能够对两者之间的非线性关系进行良好表达,和最小二乘法与三次样条插值法相比,BP神经网络的拟合程度明显优于其余2种方法,具有较高的准确(下转第101页)㊀㊀㊀㊀㊀第1期陶洋等:基于稀疏自编码器的传感器在线漂移补偿算法101㊀㊀[3]㊀裴高璞,史波林,赵镭,等.典型掺假蜂蜜的电子鼻信息变化特征及判别能力[J].农业工程学报,2015,31(S1):325-331.[4]㊀孙皓.面向伤口感染检测的电子鼻传感器阵列构建与优化研究[D].重庆:重庆大学,2017.[5]㊀ZHANGL,ZHAGND.DomainadaptationextremelearningmachinesfordriftcompensationinE⁃nosesystems[J].IEEEtransactionsoninstrumentationandmeasurement,2014,64(7):1790-1801.[6]㊀GONGB,SHIY,SHAF,etal.Geodesicflowkernelforun⁃superviseddomainadaptation[C]//2012IEEEConferenceonComputerVisionandPatternRecognition.RhodeIsland:IEEE,2012:2066-2073.[7]㊀CUIZ,LIW,XUD,etal.Flowingonriemannianmanifold:domainadaptationbyshiftingcovariance[J].IEEEtransac⁃tionsoncybernetics,2014,44(12):2264-2273.[8]㊀ZHANGL,LIUY,HEZ,etal.Anti⁃driftinE⁃nose:Asub⁃spaceprojectionapproachwithdriftreduction[J].SensorsandActuatorsB:Chemical,2017,253:407-417.[9]㊀UZAIRM,MIANA.Blinddomainadaptationwithaugmentedextremelearningmachinefeatures[J].IEEEtransactionsoncybernetics,2016,47(3):651-660.[10]㊀RUMELHARTDE,HINTONGE,WILLIAMSRJ.Learningrepresentationsbyback⁃propagatingerrors[J].Nature,1986,323(6088):533-536.[11]㊀JUY,GUOJ,LIUS.AdeeplearningmethodcombinedsparseautoencoderwithSVM[C]//2015InternationalConferenceonCyber⁃EnabledDistributedComputingandKnowledgeDiscovery.Xi an:IEEE,2015:257-260.[12]㊀LUOW,YANGJ,XUW,etal.Locality⁃constrainedsparseauto⁃encoderforimageclassification[J].IEEESignalPro⁃cessingLetters,2014,22(8):1070-1073.[13]㊀VERGARAA,VEMBUS,AYHANT,etal.Chemicalgassensordriftcompensationusingclassifierensembles[J].SensorsandActuatorsB:Chemical,2012,166:320-329.作者简介:陶洋(1964 ),教授,硕士生导师,博士后,主要研究领域为机器学习,模式识别等㊂E⁃mail:cqtxrjyjs@126.com杨皓诚(1995 ),硕士研究生,主要研究领域为机器嗅觉,模式识别㊂E⁃mail:jackwilliam_yang@163.com(上接第88页)度,并能有效提升转换后的精度㊂而使用遗传算法优化后的GA-BP神经网络,能加快BP神经网络的收敛速度,回归的精度也进一步提升㊂同时提出一种在MCU端应用的方法,网络参数固化至MCU端存储,并利用BP神经网络构件实现在MCU的回归预测,具有一定的实用性和适应性㊂参考文献:[1]㊀陈韦名,曾喆昭,廖震中,等.一种湿度传感器温度补偿的非线性校正方法[J].传感技术学报,2017(5):742-745.[2]㊀焦李成,杨淑媛,刘芳.神经网络七十年:回顾与展望[J].计算机学报,2016,39(8):1697-1716.[3]㊀Hecht⁃NielsenR.TheoryoftheBackpropagationNeuralNet⁃work[C]//International1989JointConferenceonNeuralNetworks,Washington:IEEE,1989.[4]㊀梁丰,熊凌.基于GA-BP神经网络的移动机器人UWB室内定位[J].微电子学与计算机,2019,36(4):33-37.[5]㊀丛秋梅,张北伟,苑明哲.基于同步聚类的污水水质混合在线软测量方法[J].计算机工程与应用,2015,51(24):27-33.[6]㊀DINGS,SUC,YUJ.AnoptimizingBPneuralnetworkalgo⁃rithmbasedongeneticalgorithm[J].ArtificialIntelligenceReview,2011,36(2):153-162.[7]㊀ITOY.Approximaterepresentationofacontinuousfunctionbyaneuralnetworkwithscaledorunscaledsigmoidunits[C]//IJCNN-91-SeattleInternationalJointConferenceonNeuralNetworks,Seattle:IEEE,2002.[8]㊀NURYAH,HASANK,ALAMMJB.Comparativestudyofwavelet-ARIMAandwavelet-ANNmodelsfortemperaturetimeseriesdatainnortheasternBangladesh[J].JournalofKingSaudUniversity-Science,2017,29(1):47-61.[9]㊀田垅,刘宗田.最小二乘法分段直线拟合[J].计算机科学,2012,39(S6):482-484.[10]㊀王冰冰,李淮江.基于三次样条插值的硅压阻式压力传感器的温度补偿[J].传感技术学报,2015(7):61-65.[11]㊀NXP.KL36Sub⁃FamilyReferenceManual[EB/OL].(2013-07)[2019-10-13].https://www.nxp.com/docs/en/ref⁃erence⁃manual/KL36P121M48SF4RM.pdf.[12]㊀NXP.S32K1xxSeriesReferenceManual[EB/OL].(2019-06)[2019-11-04]https://www.nxp.com/docs/en/refer⁃ence⁃manual/S32K-RM.pdf.作者简介:周欣(1995 ),硕士研究生,主要从事嵌入式与物联网方面的研究㊂E⁃mail:20174227026@stu.suda.edu.cn王宜怀(1962 ),教授,博士生导师,主要从事嵌入式系统㊁传感网与智能控制技术方面的研究。
. . . .. .. 遗传算法优化神经网络-更好拟合函数
1.案例背景
BP神经网络是一种反向传递并且能够修正误差的多层映射函数,它通过对未知系统的输入输出参数进行学习之后,便可以联想记忆表达该系统。但是由于BP网络是在梯度法基础上推导出来的,要求目标函数连续可导,在进化学习的过程中熟练速度慢,容易陷入局部最优,找不到全局最优值。并且由于BP网络的权值和阀值在选择上是随机值,每次的初始值都不一样,造成每次训练学习预测的结果都有所差别。遗传算法是一种全局搜索算法,把BP神经网络和遗传算法有机融合,充分发挥遗传算法的全局搜索能力和BP神经网络的局部搜索能力,利用遗传算法来弥补权值和阀值选择上的随机性缺陷,得到更好的预测结果。本案例用遗传算法来优化神经网络用于标准函数预测,通过仿真实验表明该算法的有效性。
2.模型建立 2.1预测函数 2.2 模型建立 遗传算法优化BP网络的基本原理就是用遗传算法来优化BP网络的初始权值和阀值,使优化后的BP网络能够更好的预测系统输出。遗传算法优化BP网络主要包括种群初始化,适应度函数,交叉算子,选择算子和变异算子等。
2.3 算法模型
3.编程实现 3.1代码分析 用matlabr2009编程实现神经网络遗传算法寻找系统极值,采用cell工具把遗传算法主函数分为以下几个部分:
Contents . . . .. .. • 清空环境变量 • 网络结构确定 • 遗传算法参数初始化 • 迭代求解最佳初始阀值和权值 • 遗传算法结果分析 • 把最优初始阀值权值赋予网络预测 • BP网络训练 • BP网络预测
主要的代码段分析如下:
3.2结果分析 采用遗传算法优化神经网络,并且用优化好的神经网络进行系统极值预测,根据测试函数是2输入1输出,所以构建的BP网络结构是2-5-1,一共去2000
组函数的输入输出,用其中的1900组做训练,100组做预测。遗传算法的基本参数为个体采用浮点数编码法,个体长度为21,交叉概率为0.4,变异概率为0.2,种群规模是20,总进化次数是50次,最后得到的遗传算法优化过程中最优个体适应度值变化如下所示: . . .
.. .. 4 案例扩展 4.1 网络优化方法的选择 4.2 算法的局限性清空环境变量
clc clear
网络结构建立 %读取数据 load data input output
%节点个数 inputnum=2; hiddennum=5; outputnum=1;
%训练数据和预测数据 . . . .. .. input_train=input(1:1900,:)'; input_test=input(1901:2000,:)'; output_train=output(1:1900)'; output_test=output(1901:2000)';
%选连样本输入输出数据归一化 [inputn,inputps]=mapminmax(input_train); [outputn,outputps]=mapminmax(output_train);
%构建网络 net=newff(inputn,outputn,hiddennum);
遗传算法参数初始化 maxgen=50; %进化代数,即迭代次数 sizepop=20; %种群规模 pcross=[0.4]; %交叉概率选择,0和1之间 pmutation=[0.2]; %变异概率选择,0和1之间
%节点总数 numsum=inputnum*hiddennum+hiddennum+hiddennum*outputnum+outputnum;
lenchrom=ones(1,numsum); bound=[-3*ones(numsum,1) 3*ones(numsum,1)]; %数据围
%------------------------------------------------------种群初始化-------------------------------------------------------- individuals=struct('fitness',zeros(1,sizepop), 'chrom',[]); %将种群信息定义为一个结构体 avgfitness=[]; %每一代种群的平均适应度 bestfitness=[]; %每一代种群的最佳适应度 bestchrom=[]; %适应度最好的染色体 %初始化种群 for i=1:sizepop %随机产生一个种群 individuals.chrom(i,:)=Code(lenchrom,bound); %编码(binary和grey的编码结果为一个实数,float的编码结果为一个实数向量) x=individuals.chrom(i,:); %计算适应度
individuals.fitness(i)=fun(x,inputnum,hiddennum,outputnum,net,inputn,outputn); %染色体的适应度 end . . . .. .. %找最好的染色体 [bestfitness bestindex]=min(individuals.fitness); bestchrom=individuals.chrom(bestindex,:); %最好的染色体 avgfitness=sum(individuals.fitness)/sizepop; %染色体的平均适应度 % 记录每一代进化中最好的适应度和平均适应度 trace=[avgfitness bestfitness];
迭代求解最佳初始阀值和权值 进化开始 for i=1:maxgen i % 选择 individuals=Select(individuals,sizepop); avgfitness=sum(individuals.fitness)/sizepop; %交叉
individuals.chrom=Cross(pcross,lenchrom,individuals.chrom,sizepop,bound); % 变异
individuals.chrom=Mutation(pmutation,lenchrom,individuals.chrom,sizepop,i,maxgen,bound);
% 计算适应度 for j=1:sizepop x=individuals.chrom(j,:); %解码
individuals.fitness(j)=fun(x,inputnum,hiddennum,outputnum,net,inputn,outputn); end
%找到最小和最大适应度的染色体及它们在种群中的位置 [newbestfitness,newbestindex]=min(individuals.fitness); [worestfitness,worestindex]=max(individuals.fitness); % 代替上一次进化中最好的染色体 if bestfitness>newbestfitness bestfitness=newbestfitness; bestchrom=individuals.chrom(newbestindex,:); end individuals.chrom(worestindex,:)=bestchrom; individuals.fitness(worestindex)=bestfitness; . . . .. .. avgfitness=sum(individuals.fitness)/sizepop; trace=[trace;avgfitness bestfitness]; %记录每一代进化中最好的适应度和平均适应度 end i =
1
i = 2
i = 3
i = 4
i = 5
i = 6
i = 7
i = 8 . . . .. .. i = 9
i = 10
i = 11
i = 12
i = 13
i = 14
i = 15
i = 16
i = . . . .. .. 17
i = 18
i = 19
i = 20
i = 21
i = 22
i = 23
i = 24
i = 25
i =