地理信息智能化处理_神经计算与空间信息处理

神经网络不仅能够通过软件而且可以借助硬件 实现并行处理。 近年来，一些超大规模集成电路实现硬件已经 问世，而且可以从市场上购买到。 这使得神经网络成为具有快速和大规模处理能 力的网络。
近些年来神经网络在众多领域得到了广泛的运用。 – 在民用应用领域的应用，如语言识别、图像识别 与理解、计算机视觉、智能机器人故障检测、实 时语言翻译、企业管理、市场分析、决策优化、 物资调运、自适应控制、专家系统、智能接口、 神经生理学、心理学和认知科学研究等； – 在军用应用领域的应用，如雷达、声纳的多目标 识别与跟踪，战场管理和决策支持系统，军用机 器人控制各种情况、信息的快速采集、分类与查 询，导弹的智能引导，保密通信，航天器的姿态 控制等。
…
5.2 人工神经网络基础理论 常用的激励函数有二值函数、S型函数、双 曲正切函数等。
⎧1, x ≥ 0 f ( x) = ⎨ ⎩0, x < 0
1 f ( x) = ,0 < f ( x) < 1 − ax 1+ e
1 − e − ax ,−1 < f ( x) < 1 f ( x) = 1 + e −ax
5.3 反向传播BP网络
1986年，D.E.Rumelhart和J.LM cclelland提出的 误差反向传播训练算法是一种迭代梯度算法， 用于求解前馈网络的实际输出与期望输出间的 最小均方差值。 BP网络是一种反向传递并能修正误差的多层 映射网络。当参数适当时，此网络能够收敛到 较小的均方差，是目前应用最广的网络之一。
5.1 计算智能
计算智能也有人称为软计算、智能计算。 软计算主要是指对一个结构不清、未能精确表述的问 题，利用所允许的不精确性和不确定性，求得其令人 满意的合理解答，这种解决问题的途径可能更加符合 人的实际推理能力，扎德(Zadeh)把它称为软计算。 具体地说，软计算是指： – 所考虑的问题是结构不清、未能精确表述的问题； – 要求的解是令人满意解或和理想解； – 要利用所允许的不精确性和不确定性，使问题的求 解代价较少地达到实用的目的。
5.3.2 BP网络的基本算法
2. 误差的反向传播过程
（1）利用网络的期望输出向量yk和网络的实际输出 y’k，计算输出层的各单元的一般化误差δk：
δ k = ( y k '− y k ) yk（1 − y k '） '
（2）利用连接权值wjk、输出层的一般化误差δk和隐层 的输出Oj计算隐层各单元的一般化误差δj：
（4）利用隐层各单元的一般化误差δj，输入层各单元的输入xi来 修正连接权值wij和阈值θj：
wij t + 1 = wij t） ηδ j xi （ ） （ +
θ j t + 1 = θ j t） ηδ j （ ） （ +
5.3.2 BP网络的基本算法
3. BP网络训练的步骤
（1）选择一组训练样例，每一个样例由输入信息和期 望的输出结果两部分组成； （2）从训练样例集中取一样例，把输入信息输入到网 络中； （3）分别计算经神经元处理后的输出； （4）计算网络的实际输出与期望输出的误差，如果误 差达到要求，则退出，否则继续执行第5步； （5）从输出层反向计算到第一个隐层，并按照某种能 使误差向减小方向发展的原则，调整网络中各神经元的 连接权值； （6）对训练样例集中的每一个样例重复(3)～(5)的步 骤，直到对整个训练样例的误差达到要求为止。
5.1 计算智能
第一个计算智能的定义是由贝兹德克(Bezdek)于 1992年提出的。 贝兹德克认为：从严格的意义上讲，计算智能取决 于制造者提供的数值数据，而不依赖于知识；而人 工智能则应用知识精品。 计算智能：机器所具有的能够对周围环境产生反应 的能力，能够根据当前的或以前的信息做出有益的 决策。
5.3.2 BP网络的基本算法
数据准备：
输入模式向量为： X={x1，x2，…，xn }，i=1， 2，…，n；n为输入层神经元个数； 对应输入模式的期望输出向量为： Y = {y1，y2，…， yk }，k=1，2，…，m；m为输出层神经元个数； 隐层神经元个数为p； 输入层第i个神经元至隐层第j个神经元的连接权值 W(1)={wij}； 隐层第j个神经元至输出层第k个神经元的连接权值 W(2)={wjk}； 隐层各神经元阈值为θ； 学习速率为η，0<η<1；
5.3.2 BP网络的基本算法
BP算法的思想：利用输出后的误差来估计输出 层的直接前导层的误差，再用这个误差估计更 前一层的误差，如此一层一层的反传下去，就 获得了所有其它各层的误差估计。 这样就形成了将输出层表现出的误差沿着与输 入传送相反的方向逐级向网络的输入层传递的 过程。 BP网络的训练学习过程主要包括两个过程：信 息的正向传播过程和误差的反向传播过程。
– 网络训练转入误差的反向传播过程：网络误差按原来正向传播 的连接路径返回，网络训练按误差对权值的最速下降方法，从 输出层经隐含层修正各个神经元的权值，最后回到输入层。 – 再进行输入模式的正向传播过程……
这两个传播过程在网络中反复运行，使网络误差不断减 小，从而网络对输入模式的响应的正确率也不断提高。 当网络误差不大于目标误差时，网络训练结束。
5.1 计算智能
计算智能与人工智能： – 计算智能强调低层认知的数值计算；而人工智能 强调高层认知的知识处理。 – 计算智能的认知层次从中层下降到低层；中层系 统含有知识(精品)，低层系统则没有。 计算智能系统：只涉及数值(低层)数据，含有模式识 别部分，不应用人工智能意义上的知识，而且能够呈 现出：①计算适应性；②计算容错性；③接近人的速 度；④误差率与人相近，则该系统就是计算智能系统。 人工智能系统：若一个智能计算系统以非数值方式加 上知识(精品)，即成为人工智能系统。
5.3.2 BP网络的基本算法
1. 信息的正向传播过程
隐层各神经元的输入： j = ∑ wij xi − θ j S
i =1 n
O 隐层各神经元的输出： j = f ( s j ) =
1 −S 1+ e j
p j =1
输出层各单元的网络实际输出： k = f ( ∑ O j w jk − θ k ) y' 说明：人工神经元是模拟生物神经元的非线性信息传 递特性，以Sj作为S函数(Sigmoid函数)的自变量。
人类具有很强的学习、自适应和自组织能力，人 工神经网络模拟大脑的工作机制，初步具备这一 功能。 由于连接权值存储信息，因此在学习过程中改变 连接权值的值，记忆了输入样本的基本属性，挖 掘样本中的有用数据，对于不完整的输入样本能 较好的恢复其完整原型。
已经训练好的神经网络能够对不属于训练样本 集合的输入样本正确识别或分类，这就是神经 网络的推广性。
5.3.1 BP网络的基本原理
BP网络是一种具有三层或三层以上神经元的多层前向 网络。网络按有导师学习的方式进行训练，训练模式 包括若干对输入模式和期望的目标输出模式。
5.3.1 BP网络的基本原理
首先网络进行输入模式的正向传播过程，输入模式从输 入层经隐含层处理向输出层传播，并在输出层的各神经 元获得网络的输出。 如网络输出与期望的输出模式之间的误差大于目标误 差，则进行下面步骤：
y 1 0 x
二值函数
S型函数
双曲正切函数
人脑神经元之间传递信息的速度远低于冯.诺依曼 计算机的工作速度； 人脑在感知方面，如：推理判断，决策处理方面 的功能却相当强大，冯.诺依曼计算机就难以处理 这类非线性的大规模复杂事件。 由于人工神经网络模拟人脑的神经元，在结构上 是并行的，而且能同时处理类似的过程，所以人 工神经网络也初步具备了人脑的并行处理功能。
5.2 人工神经网络基础理论 人工神经网络
研究目的：模拟人脑的某些机理和机制，实现某 些复杂功能。 人工神经网络是由许多非常简单的处理单元彼此 按某种方式相互连接而形成的计算机系统，该系 统依靠其状态对外部输入信息的动态响应来处理 信息。
5.2 人工神经网络基础理论
神经细胞结构
地球上的任何动物的神经结构的形态与功能都是大体相同的，而 人工神经网络则是对其功能的模拟。从功能上说，每一个细胞体 都能完成“刺激-兴奋-传导-效应”这样一个过程，因此人工神经 网络也必须能完成这样一个过程。 一个神经元包括细胞和它发出的许多突起，多个神经元通过这些 突起形成网络。神经元的细胞体是整个神经元的核心，所起的作 用是接收和处理信息，接收刺激产生兴奋或抑制。 突起所起的作用是传递信息，分为两种:一类是作为引入输入信 号的若干个突起，称为“树突”，传导“兴奋”，另一类是作为 输出端的突起，称为“轴突”，产生“效应”。
神经网络具有固有的非线性特性，这源于其 近似任意非线性映射(变换)的能力。 这一特性给处理非线性问题带来了新的希望。
人脑各神经元的结构完全并行，其记忆信息分 布存储在各神经元的连接强度上，在人工神经 网络中表现为连接权值，由于连接权值是计算 的主要依据，所以存储和计算均具有分布性。 人脑的神经细胞每天都会有死亡，但是并不影 响大脑的基本功能，这是由于信息分布存储并 具有一定的冗余度，导致部分信息的丢失对整 个网络的影响并不是很大，具有鲁棒性。
– 组合计算是指神经计算、模糊计算和进化计算中的 两种或两种以上方法的组合而形成的计算智能方法。
5.1 计算智能 地理空间信息具有海量性、多变量性及不确 定性， 利用计算智能方法(神经计算、模糊计算、进 化计算等)处理地理空间信息将是一个很好的 选择。
5.2 人工神经网络基础理论
人工神经网络(Artificial Neural Networks, ANN) 是一种模仿动物神经网络行为特征，进行分布式并 行信息处理的数学模型。 这种网络依靠系统的复杂程度，通过调整内部大量 节点之间相互连接的关系，从而达到处理信息的目 的。 人工神经网络具有自学习和自适应的能力，可以通 过预先提供的一批相互对应的“输入-输出”数据，分 析掌握两者之间潜在的规律，最终根据这些规律， 用新的输入数据来推算输出结果，这种学习分析过 程被称为“训练”。