基于人工神经网络的赤潮预测方法研究【文献综述】
- 格式:doc
- 大小:200.34 KB
- 文档页数:12
(19)中华人民共和国国家知识产权局(12)发明专利申请(10)申请公布号 (43)申请公布日 (21)申请号 201810157907.7(22)申请日 2018.02.25(66)本国优先权数据201721333861.7 2017.10.17 CN(71)申请人 北京尚水信息技术股份有限公司地址 100085 北京市海淀区上地五街7号昊海大厦303(72)发明人 王希花 纪红军 曲兆松 任明轩 (51)Int.Cl.G06Q 10/04(2012.01)G06N 3/08(2006.01)G06N 3/02(2006.01)(54)发明名称基于神经网络预测水位的方法(57)摘要本发明的基于神经网络预测水位的方法包括以下步骤:根据各站点的关系,下游某一站点(A)的水位与该站点(A)的前一段时间的水位相关,并且与该站点(A)上游的若干个上游站点(B、C、D …)的对应的该瞬间的水位相关,根据已有数据分析,水从上游站点(B、C、D …)流到下游的该站点(A)耗时分别为t 1、t 2和t 3…分钟,选取上游站点(B、C、D …)的前2t 1-t 1、2t 2-t 2和2t 3-t 3…分钟水位数据,以及该站点(A)的前U分钟的水位数据作为输入信号;建立一个神经网络;并经过若干次迭代让神经网络进行自我学习,使得神经网络的预测误差小于设定误差;输入该站点(A)前一段时间的水位和若干个上游站点(B、C、D …)的水位数据,基于神经网络预测该站点(A)水位。
权利要求书2页 说明书5页 附图1页CN 108510103 A 2018.09.07C N 108510103A1.一种基于神经网络预测水位的方法,该方法根据若干个上游站点(B、C、D…)的水位来预测下游某一站点A的水位,其特征在于:该方法它包括以下步骤:1)确定输入信号根据各站点的关系, 下游某一站点(A)的水位与该站点(A)的前一段时间的水位相关,并且与该站点(A)上游的若干个上游站点(B、C、D…)的对应的该瞬间的水位相关,根据已有数据分析,水从上游站点(B、C、D…)流到下游的该站点(A)耗时分别为t1、t2和t3…分钟,选取上游站点(B、C、D…)的前2t1- t1、2t2- t2和2t3- t3…分钟的水位数据,以及该站点(A)的前U分钟的水位数据作为输入信号;2)建立一个神经网络该神经网络包括:输入层(1)、隐含层(3)和输出层(5),输入层(1)包括并列的若干个输入点(2),隐含层(3)包括并列的若干个节点(4),输出层(5)包括一个输出点,每个输入点(2)的输出均作为每个节点(4)的输入,每个节点(4)的输出均作为输出层(5)的输入,输出层(5)输出一个信号;3)让神经网络进行自我学习将上游站点(B、C、D…)的前2t1- t1、2t2- t2、2t3- t3…每分钟的水位数据和该站点(A)的前U分钟的每分钟的水位数据中每一个数据作为一个输入点(2)的输入数据,将上述输入数据输入步骤2)的该站点(A)的神经网络中,让神经网络进行自我一次学习,经过若干次自我学习,使得神经网络的预测误差小于设定误差,得到该站点(A)的神经网络;4)基于神经网络预测该站点(A)水位把上游站点(B、C、D…)的前2t1- t1、2t2- t2和2t3- t3…水位数据和该站点(A)的前U分钟的水位数据作为步骤3)的该站点(A)的神经网络的若干个输入点(2)的输入数据,根据步骤3)的该站点(A)的神经网络得到该站点(A)的水位。
赤潮主题词:赤潮的定义赤潮的危害赤潮的成因赤潮的研究赤潮的预防结论与展望摘要:随着现代化工农业生产的迅猛发展,沿海地区人口的增多,大量工农业废水和生活污水排入海洋,其中相当一部分未经处理就直接排入海洋,导致近海、港湾富营养化程度日趋严重。
同时,由于沿海开发程度的增高和海水养殖业的扩大,也带来了海洋生态环境和养殖业自身污染问题;海运业的发展导致外来有害赤潮种类的引入;全球气候的变化也导致了赤潮的频繁发生。
目前,赤潮已成为一种世界性的公害,美国、日本、中国、加拿大、法国、瑞典、挪威、菲律宾、印度、印度尼西亚、马来西亚、韩国、香港等30多个国家和地区赤潮发生都很频繁。
因此研究赤潮的危害和成因就显得非常的重要。
赤潮的定义:赤潮是海水中某些微小的微型藻、原生动物或细菌在一定的环境条件下爆发性增殖或聚集在一起而引起水体变色的一种生态异常现象。
这一概念最早是因海水变红而得名,现在已成为各种赤潮的统称。
赤潮爆发时,因赤潮生物种类和数量的不同,海水可呈现红、黄、绿等不同颜色。
赤潮的危害:一、赤潮破坏了海洋的正常生态结构,因此也破坏了海样中的正常生产过程,从而威胁海洋生态系统中的物质循环、能量流动。
二、大量赤潮生物死亡后,在尸骸的分解过程中要大量消耗海水中的溶解氧,造成缺氧环境,引起虾、贝类的大量死亡。
三、有些赤潮生物会分泌毒素,当鱼、贝类处于有毒赤潮区域内,摄食这些有毒生物,虽不能被毒死,但生物毒素可在体内积累,其含量大大超过食用时人体可接受的水平。
这些鱼虾、贝类如果不慎被人食用,就引起人体中毒,严重时可导致死亡。
赤潮的成因:一、海水富营养化由于城市工业废水和生活污水大量排入海中,使营养物质在水体中副集,造成海域富营养化。
此时,水域中氮、磷等营养盐类;铁、锰等微量元素以及有机化合物的含量大大增加,促进赤潮生物的大量繁殖。
赤潮检测的结果表明,赤潮发生海域的水体均已遭到严重污染,富营养化。
氮磷等营养盐物质大大超标。
其次一些有机物质也会促使赤潮生物急剧增殖。
赤潮的生态学研究进展和展望杨刚(浙江海洋学院海洋科学与技术学院,浙江舟山316004)摘要本文针对赤潮的生物学研究、赤潮发生机制,赤潮的生态学效应,赤潮的生物学监测和赤潮的防治等方面对整体的赤潮研究进行了简单的回顾和应用介绍,最后对赤潮的研究重点和未来发展方向进行了评述。
关键字赤潮发生机制生态学效应监测防治分类号赤潮(red tide)又称有害藻华(harmful algae bloom ),是由于某种(或某些)微小的浮游藻类或原生动物或细菌,在一定的条件下爆发性繁殖(增殖)或高密度聚集引起水体变色的一种有害的生态异常现象。
赤潮形成后,对海洋生态系统的破坏难以估量: ①赤潮生物的爆发性增殖会造成海水pH值升高,粘稠度增大,改变水生生态系统的群落结构; ②藻类大量死亡时分解作用消耗水中的氧气,导致水域的动物因缺氧而死亡; ③藻类过度密集会堵塞鱼贝类生物的鳃部,使其窒息而死; ④有的赤潮藻类本身含有毒素,鱼贝等生物接触后会发生中毒反应。
有的赤潮毒素容易在鱼贝体内蓄积,人们误食含有毒素的水产品后会引起肢体麻痹,甚至中毒致死。
[1]据报道记载,赤潮在古代发生的次数非常稀少。
20世纪以来,由于工农业迅速发展,沿海地区人口激增,大量的工业废水和城市生活污水未经处理直接排放到海洋中,造成内湾、河口和沿岸水域的严重有机污染和富营养化,赤潮的发生频率不断升高。
并且,赤潮影响的水域面积越来越大,引发赤潮的藻种也越来越多(Hallegraeff,1993 )。
[2]当前,每一个拥有海岸线的国家都受到赤潮的威胁。
因此,赤潮已经成为世界沿海国家所面临的主要海洋环境问题,引起了国际上的广泛关注。
许多临海国家特别是日本和美国已投入大量的人力和物力进行研究。
从发展趋势看,赤潮的发生机理、危害、预测和防治仍将是今后赤潮研究的主流。
1. 赤潮的生物学研究据报道,世界各地己引发过赤潮的生物有200种(福代康夫,1990)。
[3]赤潮生物除少数的原生动物和细菌外,大都属于浮游植物,包括蓝藻、硅藻、甲藻、金藻和隐藻等门类,其中硅藻和甲藻占多数。
基于人工神经网络的预测模型随着计算机技术的不断进步,人工神经网络得到了广泛的应用。
人工神经网络是一种模拟人类神经系统的计算模型,它通过学习和适应来实现对数据的预测和分类。
其中,基于人工神经网络的预测模型具有重要的应用价值。
本文将围绕基于人工神经网络的预测模型展开探讨。
一、人工神经网络的基本概念人工神经网络是由神经元和它们之间的联系构成的一种网络结构。
它采用一种类似于大脑神经元之间相互联系的方式,对输入信号进行加工处理,产生相应的输出信号。
它的结构大致分为输入层、隐含层和输出层三部分,其中隐含层是神经网络最核心的部分,在这里所有的计算、加工都以神经元为基本单元,最终得到预测值或者分类结果。
二、基于人工神经网络的预测模型基于人工神经网络的预测模型是一种利用神经网络来对未来事件的趋势进行预测的方法。
其基本思想是将历史数据作为神经网络的输入数据,在神经网络中进行训练和学习,并生成一组能够对未来事件进行预测的参数。
基于这些参数,可以通过将未来事件的输入数据带入到神经网络中进行预测,得到预测结果。
通常,基于人工神经网络的预测模型分为两种类型:前向神经网络和逆向神经网络。
前向神经网络是把输入信号从输入层传输到输出层。
在此过程中,训练样本经过多次迭代调整,使得网络产生最佳的连接权重,然后通过输入未来事件,得到预测结果。
而逆向神经网络则是对输出信号进行学习和训练,从时间维度反推输入信号,从而实现预测。
在实际应用中,基于人工神经网络的预测模型的预测效果较好,而且可以适用于很多领域,如股票走势预测、交通流量预测等。
在金融领域中,基于人工神经网络的预测模型可以用来预测股票市场走势,帮助投资者做出正确的决策。
在交通领域中,监测地区的路况和交通流量,以提供数据支持给政府进行城市规划。
三、基于人工神经网络的预测模型的优缺点优点:第一,基于人工神经网络的预测模型可以快速地学习和处理大量的数据,使其适用于多种领域的应用。
第二,基于人工神经网络的预测模型能够自适应地进行学习,具有强大的自学习能力,同时还能够随着输入数据量的增加不断地提高预测准确率。
遥感技术在海洋赤潮的监测与防治方面的应用刘君臣;杨玉忠;黄勇【摘要】随着工农业生产的发展,人口增多,近200年来,赤潮已成为世界性的年度自然灾害,是海洋三大公害之一.虽然其发生的原因尚未完全查明,但通过一些手段仍然可以监测和防治赤潮.由于海洋现象具有空间尺度大、变化周期长、直接观测难的特点,传统监测方法的周期太长、精度不够高,具有很大的局限性,且效果并不十分理想.而利用卫星遥感技术的实时性、大尺度、快速和长时间连续的特点,则可以比较快速地监测赤潮,从而尽可能地降低赤潮的危害.本文从最新的遥感技术出发,结合国际国内形势,阐述了应用遥感技术进行赤潮监测和防治的方法及原理,重点介绍了高光谱遥感影像处理技术,同时对各种方法的优缺点作一比较,提出了一些建议.【期刊名称】《北京测绘》【年(卷),期】2015(000)003【总页数】5页(P122-126)【关键词】赤潮;遥感技术;赤潮监测;海洋遥感;赤潮防治【作者】刘君臣;杨玉忠;黄勇【作者单位】天津市测绘院,天津300381;天津市测绘院,天津300381;天津市测绘院,天津300381【正文语种】中文【中图分类】P2371 海洋赤潮形成及其危害随着工农业生产的发展,人口增多,近200年来,赤潮已成为世界性的年度自然灾害,是海洋三大公害之一[1]。
发生赤潮的海水颜色并非都是红色,赤潮的颜色,主要由形成赤潮的优势浮游生物种类的颜色所决定,可以呈现出红色、绿色、黄褐色。
目前发现的赤潮生物有330多种,其分布极为广泛,几乎遍及世界各个海域。
赤潮发生的原因尚未完全查明,但从理化环境的变化分析,大致可分为自然条件和人为因素[2,3]。
自然条件主要有化学因素(近海养殖的饵料)、海温和盐度、气象、海流等,水底层出现无氧和低氧水团也会引起赤潮。
此外,赤潮发生与地球的温室效应、厄尔尼诺现象、拉尼娜现象也密切相关。
人为因素一是人们对农作物施以超量的化肥、农药等积累在土壤中,随江河排泄于海洋;二是工业生产、生活垃圾和污水被大量注入海中;三是沿海地区的过度海水养殖,残饵腐败污染海水[4]。
基于人工神经网络的巢湖流域水体总磷和总氮预测人工神经网络(ANN)是一种模拟人脑神经元相互作用的计算模型,它可以用来处理非线性问题,并且在处理水文问题中取得了一定的成功。
本文基于人工神经网络模型,对中国巢湖流域的水体总磷(TP)和总氮(TN)进行预测,旨在提高对水体污染物浓度变化的预测准确性,为巢湖流域水体管理和保护提供科学依据。
1. 引言水体总磷和总氮是水质中的两种主要污染物,它们会导致水体富营养化和蓝藻水华等问题,严重影响水体生态环境和人类健康。
对水体总磷和总氮浓度进行精确预测具有重要的理论和实际意义。
人工神经网络是一种以神经系统为模型的计算工具,在水文领域有着广泛的应用。
本研究将基于人工神经网络模型,对巢湖流域的水体TP和TN浓度进行预测,为水体管理和保护提供科学支持。
2. 数据和方法本研究选取巢湖流域2010年至2020年的水质监测数据作为研究对象,包括TP和TN浓度以及相关环境因子(如降雨量、温度、流量等)。
选取巢湖流域的地理信息数据(如河流网络、土地利用等)作为输入变量,以构建人工神经网络模型。
具体的数据处理和模型构建方法如下:(1)数据预处理:对采集到的原始数据进行缺失值处理和异常值处理,确保数据的准确性和完整性。
(2)特征选择:通过相关性分析和主成分分析等方法,选择与TP和TN浓度相关性较大的环境因子作为输入变量。
(3)模型构建:选取适当的人工神经网络结构和学习算法,构建TP和TN浓度的预测模型。
(4)模型评价:利用误差指标(如均方根误差、平均绝对误差等)对模型进行评估,并通过交叉验证方法验证模型的预测性能。
3. 结果与讨论经过数据处理和模型构建,得到了巢湖流域水体TP和TN浓度的预测模型。
通过对模型的评价和验证,发现人工神经网络模型可以对水体TP和TN浓度进行较为准确的预测,模型的均方根误差和平均绝对误差较小,预测效果较好。
通过对模型的参数进行敏感性分析,确定了环境因子对水体TP和TN浓度的影响程度,提高了对水体污染物浓度变化的理解。
人工神经网络在化学反应预测中的应用人工神经网络(Artificial Neural Network,ANN)是一种由多个相互连接的节点(称为神经元)组成的计算模型,它们通过输入和输出之间的连接进行信息处理。
近年来,人工神经网络在化学反应预测中得到了广泛应用。
一、人工神经网络简介人工神经网络是一种模仿人脑神经系统的计算模型。
它由输入层、输出层和至少一个隐藏层组成。
每个神经元都有一些权值,这些权值会随机调整以改进其预测能力。
当输入信号经过网络时,每个神经元都会将其加权并传递到下一层。
最终,输出层将生成预测结果。
二、ANN在化学反应预测中的应用ANN可以用于预测化学反应的结果。
通过将反应物的性质作为输入,可以预测反应的产物和它们的量。
另外,ANN还可以利用大数据库,进行沉积物和水质的预测、显微镜下颗粒物形貌的分类与识别、有机物性质的预测以及发展Coag-floc过滤系统等。
三、ANN如何进行化学反应预测化学反应预测需要大量的反应数据作为输入。
在训练过程中,ANN会根据这些数据不断调整权值以最小化预测误差。
一旦训练完成,ANN就可以用于预测具有相似特征的未知反应。
四、人工神经网络的优点1. 易于识别和模拟人工神经网络的结构类似于人脑,因此它们对于复杂特征的识别和模拟很有优势。
这使得ANN在化学反应预测中十分有效。
2. 可以处理大量数据人工神经网络可以同时处理大量数据,这使得它们在学习和预测复杂化学反应时比传统方法要好。
3. 可以自我修正与传统的统计模型相比,人工神经网络可以自我修正。
这意味着它们可以在学习过程中不断改进,从而提高预测准确性。
五、人工神经网络的局限1. 易受局部最优解影响人工神经网络的优化方法通常涉及数个不同的局部最优解,选择的初始条件和算法可以对预测结果产生重要影响。
2. 对数据质量要求较高人工神经网络在化学反应预测中需要大量且高质量的数据作为输入。
这就要求我们对反应数据进行高质量的测量和收集。
26河北地质2020年第!期秦皇岛海域赤潮灾害预警模型研究陈作艺冯鑫(1.河北省地矿局第八地质大队秦皇岛066001).河北省海洋地质资源调查中心秦皇岛066001)摘要通过秦皇岛陆源入海数据、海洋浮标连续监测数据及人工监测数据研究秦皇岛海域赤潮,监控赤潮灾害,探索出最适于该区域的赤潮灾害预警模型。
由于赤潮的发生与各影响因子之间的关系非常复杂,具有一定的非线性和不确定性,传统预测方法的预测精度不明显,而人工神经网络具有较强的非线性逼近能力,适合高维非线性系统的模拟。
因此,基于人工神经网络的赤潮灾害预警模型研究能很好地提高赤潮预测精度,以叶绿素2为 关键指标的预测模型具有良好的预测效果和较高的精度。
通过对赤潮灾害预警模型的研究,有利于赤潮预警信息系统的进一步完善,有利于海洋生态系统的可持续利用,对整个海洋生态环境的保护具有重要意义。
关键词赤潮灾害预警模型1>-1刖目赤潮(red tide)是指在一定的环境条件下,海洋 中的浮游微藻、原生动物或细菌等在短时间内突发 性链式增殖和聚集的海洋生态异常现象。
有研究表 明,全球沿岸水域爆发的有毒有害赤潮数量逐年增 加,严重破坏了海洋生态环境,使沿岸的海洋经济遭 受到沉重的打击。
有毒赤潮藻产生的毒素(如麻痹 性贝毒、腹泻性贝毒、记忆缺失性贝毒、神经性贝毒 和西加鱼毒等)经食物链传递,在虑食性贝类、植食 性鱼类或其他高营养级生物体内蓄积,造成海产品 污染,对消费者的身体健康和生命安全构成极大威胁。
秦皇岛是享誉中外的休闲度假胜地,也是中央 国家机关暑期办公所在地。
但近年来,秦皇岛海域 的赤潮灾害问题变得非常突出。
据不完全统计,20 世纪90年代的10年间秦皇岛海域仅发生2次赤 潮,而在2000年后的12年间共发生了 22次赤潮。
特别是自2009年以来,一种由微微型藻导致的褐色 赤潮现象连年出现,每年影响范围最高可达到数千 平方公里(表1),给当地类养殖业带来严重危害,对 秦皇岛近海的水体环境和生态安全都产生巨大威 胁。
毕业论文文献综述计算机科学与技术基于人工神经网络的赤潮预测方法研究引言:近年来,赤潮发生的频率越来越高,对海洋渔业、海水养殖业和滨海旅游业等均造成了一定的危害,经济损失严重。
因此,弄清楚赤潮发生的机理并对其进行准确地预报,对预防赤潮的发生以及减少赤潮灾害带来的损失至关重要。
鉴于赤潮突发性和复杂性和对其机理的认识,目前常用的预测方法主要依据赤潮影响因子的变化判断其是否发生,它是一个模式识别过程。
由于生态系统各因子之间表现出高度的非线性和不确定性,传统的预测方法有效的很少。
人工神经网络具有较好的处理非线性模式识别特性,它独特的信息处理和解算能力对机制尚不明确的高维非线性系统具有很好的建模能力。
目前神经网络在生态系统模拟、生态数据处理以及要干生态参数的提取方面等方面得到广泛应用[1,2]。
本文介绍一种常见的神经网络算法网络,即BP(Back Propagation)网络,以及它在赤潮预测中的应用。
1 赤潮及赤潮的预测研究1.1赤潮赤潮(red tide)也称红潮,通常是指一些海洋微藻、原生动物或细菌在水体中过度繁殖或聚集而令海水变色的现象,藻华(algal bloom)有时称水华或藻花,是指水体中藻类大量繁殖的一种现象,习惯上将水体中藻类达到一定密度后的藻华称作赤潮[3]。
自20世纪70年代有比较齐全的赤潮资料以来,我国赤潮发生主要有以下趋势:赤潮的发生以每10年3倍的速度不断上升;赤潮的规模不断扩大;危害程度增加。
有害赤潮是一种有多种因素综合作用引起的生态异常现象,人们至今还没有对其发生机理有完整、统一的认识,而且赤潮生物的繁殖与其影响因子之间具有高度的复杂性和非线性,从而很难采用传统的偏微分方程对其规律进描述。
在这种情况下,以数据挖掘技术为主的数据驱动模型就开始显示出其优势。
其中,人工神经网络ANN(Artificial Neural Network)的应用最为广泛,尤其是在寻求和建立信号输入和输出方面,具有许多其他方法所不具有的优势,并在实际应用中取得了很好的效果[4]。
1.2 赤潮的预测赤潮是一种由多因素综合作用引发的生态异常现象,具有突发性及非线性等特点,并且赤潮生物种类繁多,不同海域发生赤潮的主要影响因子又不尽相同,因此,对其进行成功预测并进行有效的预防减灾已成为社会迫切需要[5]。
国内外学者从不同角度开展了赤潮预测的研究,并提出了众多的赤潮预测方法。
近几年随着计算机软件技术、人工智能以及生物技术的迅猛发展,人们开始探索将其应用与赤潮的预测。
20世纪90年代,RECKNAGEL[6]将ANN(Artificial neural networks)运用于蓝-绿藻的种类丰度和演替预测研究,结果证明,ANN浮游植物模型具有较好的预测潜力,并促进了ANN 在水华、赤潮方面的研究。
WILSON和RECKNAGEL[7]与KUDELA和COCHLAN[8]虽然将ANN应用于赤潮预测计算中,但未在网络结构的优化方面做工作,而国内的一些学者则在这一方面作了大量的工作。
蔡如钰[9]、董婧等[10]、吴京洪[11]谢中华和晏丽红[12]等在人工神经网络对赤潮进行预测方面做出了巨大贡献。
上述研究初步表明,ANN用于赤潮生物生长的研究是一种行之有效的新途径,与传统统计模型相比有一定的优越性,与传统统计模型相比,人工神经网络方法不要求监测数据具有很强的规律性,就可以用训练后的网络模型对其进行预测,具有一定的实用性。
2 人工神经网络及BP算法网络人工神经网络(Artificial Neural Network)是指由大量与自然神经系统细胞类似的人工神经元连接而形成的网络,其由应用工程技术、计算机手段模拟生物神经网络的结构和功能,实现只是并行分别处理,是一个人工智能信息处理系统,与较高的建模能力和对数据良好的拟合能力[13]。
人工神经网络模仿人脑神经的活动,力图建立脑神经活动的数学模型。
近年来,只能控制作为一门新的交叉学科蓬勃兴起。
人们在更高层次上寻求控制、计算机和神经生理学的新结合,以此来解决显示世界中常规控制论难以解决的一些问题。
2.1 神经网络国内外研究现状20世纪90年代以来,神经网络网络的应用领域迅速扩大。
近百种近百种网络结构、学习算法相继出现,硬件实现的研究工作也取得了重要进展。
神经网络理论的应用研究已经渗透到大量的工程领域,并取得了令人瞩目的成果。
1987年6月IEEE在San Diego召开了第一节神经网络会议,标志着神经网络研究在世界范围内形成了高潮,此后国际上每年都有以神经网络为主题的国际会议召开。
随着神经网络理论研究的进展,其应用产品开发也获得了初步的成功。
目前已有的神经网络应用产品有HNC公司的手写体识别,Neural teach的专家系统设计,HNC的脑电图分析,HNC和AI-WARE的过程与机器人控制等众多产品。
在举世瞩目的海湾战争中,美国空军也采用了神经网络进行决策和控制。
近年来,我国在神经网络的研究方面发展规模大、速度快而且取得了不少成果。
中国科学院半导体研究所神经网络组在王守觉院士的带领下,研究开发了一种适合我国神经网络研究需要的通用神经网络处理机--“预言神”神经计算机;承担的“九五”国家重点攻关“半导体神经网络技术及其应用”、“高精度双权值突出神经计算机”、“高速二值Hopfield网络神经计算机”等项目于2000年12月通过了中科院的鉴定、验收。
我国在神经网络的应用研究中的另一项具有较大影响的成果是国防科技大学的胡守仁教授等人研制成功的一个通用神经网络模拟系统NNSS,该系统能按用户意图建立各种复杂的互连模型,实现从学习、分别到识别结果的全过程[14]。
2.2 BP神经网络(一)、BP神经网络的基本原理BP(Back Propagation)网络是1986年由Rumelhart和McCelland为首的科学家小组提出,是一种按误差逆传播算法训练的多层前馈网络,是目前应用最广泛的神经网络模型之一。
BP网络能学习和存贮大量的输入-输出模式映射关系,而无需事前揭示描述这种映射关系的数学方程。
它的学习规则是使用最速下降法,通过反向传播来不断调整网络的权值和阈值,使网络的误差平方和最小。
BP神经网络模型拓扑结构包括输入层(input layer)、隐层(hide layer)和输出层(output layer)(图 1)。
X1(p)X2(p)Xn(p)O1(p)O2(p)On(p)输入层节点隐层节点输出层节点图 1 神经网络结构示意图(二)、BP 网络及其权值调整规则1、BP 算法由数据流的前向计算(正向传播)和误差信号的反向传播两个过程构成。
正向传播时,传播方向为输入层→隐层→输出层,每层神经元的状态只影响下一层神经元。
若在输出层得不到期望的输出,则转向误差信号的反向传播流程。
通过这两个过程的交替进行,在权向量空间执行误差函数梯度下降策略,动态迭代搜索一组权向量,使网络误差函数达到最小值,从而完成信息提取和记忆过程。
1.1正向传播n q mVWZ1Y1YjYm图 2 前向运算(正向传播)设 BP 网络的输入层有n 个节点,隐层有q 个节点,输出层有m 个节点,输入层与隐层之间的权值为ki v ,隐层与输出层之间的权值为jk w ,如图5.4所示。
隐层的传递函数为f 1(·),输出层的传递函数为f 2(·),则隐层节点的输出为(将阈值写入求和项中):)(01∑==ni i ki k x v f z q k ,......,2,1= (1.1)输出层节点的输出为:)(02∑==qk k jk j z w f y m j ,......,2,1= (1.2)至此B-P 网络就完成了n 维空间向量对m 维空间的近似映射。
1.2反向传播1) 定义误差函数输入p 个学习样本,用px x x ,...,,21来表示。
第p 个样本输入到网络后得到输出pj y (m j ,...,2,1=)。
采用平方型误差函数,于是得到第p 个样本的误差p E :∑=-=m j p j pj p y t E 12)(21 (1.3)式中:p j t 为期望输出。
对于P 个样本,全局误差为:∑∑∑====-=P p m j Pp p pj p j E y t E 111)(21 (1.4)2)输出层权值的变化采用累计误差BP 算法调整jk w ,使全局误差E 变小,即∑∑==∂∂-=∂∂-=∂∂-=∆P p jk p P p p jk jk jk w E E w w E w 11)()(ηηη (1.5) 式中:η—学习率 定义误差信号为:ijj p j pyj S y y E S E ∂∂⋅∂∂-=∂∂-=δ (1.6) 其中第一项:∑∑==--=⎥⎦⎤⎢⎣⎡-∂∂=∂∂m j pj p j m j p j p j jj py t y t y y E 112)()(21 (1.7)第二项:)('2j jj S f S y =∂∂ (1.8)是输出层传递函数的偏微分。
于是:)()('21j mj p j p j yj S f y t ∑=-=δ (1.9)由链定理得:∑=⋅--=-=∂∂⋅∂∂=∂∂m j k j p j p j k yj jk j j p jk pz S f y t z w S S E w E 1'2)()(δ (1.10) 于是输出层各神经元的权值调整公式为:k j p p mj p j p j jk z S f y t w )()('211∑∑==-=∆η (1.11)3)隐层权值的变化∑∑==∂∂-=∂∂-=∂∂-=∆pp ki p pp p ki ki ki v E E v v E v 11)()(ηη (1.12)定义误差信号为:k kk p kp k S z z E S E z ∂∂⋅∂∂-=∂∂-=δ (1.13)其中第一项:k j m j pj p j m j p j p j kk pz y y t y t z z E ∂∂--=⎥⎦⎤⎢⎣⎡-∂∂=∂∂∑∑==112)()(21 (1.14) 依链定理有:jk j kj j j k jw S f z S S y z y )('2=∂∂⋅∂∂=∂∂ (1.15) 第二项:)('1k kk S f S z =∂∂ (1.16) 是隐层传递函数的偏微分。
于是:)()()('11'2k jk mj j p j p j zk S f w S f y t ∑=-=δ (1.17)由链定理得:ik jk j m j p j p j i zk ki k k p ki px S f w S f y t x v S S E v E ⋅--=-=∂∂⋅∂∂=∂∂∑=)()()('1'21δ (1.18) 从而得到隐层各神经元的权值调整公式为:i k j p p mj ki x S f S f v )()(()'111'2∑∑===∆η (1.19)1.3 BP 算法的改进BP 算法用于具有非线性转移函数的三层前馈网后可以以任意精度逼近任何非线性函数,这一非凡优势使BP 网络得到越来越广泛的应用。