当前位置：文档之家 › 6.第7章 径向基函数网络

6.第7章 径向基函数网络

  • 格式：pdf
  • 大小：1.28 MB
  • 文档页数：42

下载文档原格式

  / 42

合集下载

径向基函数神经网络模型及其在预测系统中的应用

径向基函数神经网络模型及其在预测系统中的应用

径向基函数神经网络模型及其在预测系统中的应用传统的神经网络模型在处理非线性问题时存在一定的限制，而径向基函数神经网络（Radial Basis Function Neural Network，RBFNN）模型则能够有效地处理这类问题。

本文将介绍径向基函数神经网络模型的基本原理，并探讨其在预测系统中的应用。

1. 径向基函数神经网络模型的基本原理径向基函数神经网络模型是一种三层前馈神经网络，包含输入层、隐含层和输出层。

该模型通过将输入向量映射到高维特征空间，并利用径向基函数对输入数据进行非线性变换。

其基本原理如下：1.1 输入层：输入层接收原始数据，并将其传递给隐含层。

1.2 隐含层：隐含层中的神经元使用径向基函数对输入数据进行非线性变换。

径向基函数通常采用高斯函数，其形式为：φ(x) = exp(-(x-c)^2/2σ^2)其中，x为输入向量，c为径向基函数的中心，σ为径向基函数的宽度。

隐含层神经元的输出由径向基函数计算得到，表示了输入数据距离每个径向基函数中心的相似度。

1.3 输出层：输出层根据隐含层的输出和相应的权值进行计算，并生成最终的预测结果。

2. 径向基函数神经网络模型在预测系统中的应用径向基函数神经网络模型在各种预测系统中具有广泛的应用，包括金融预测、气象预测、股票价格预测等。

2.1 金融预测径向基函数神经网络模型能够对金融市场进行有效预测，例如股票价格、外汇汇率等。

通过输入历史数据，可以训练神经网络模型，利用其中的非线性变换能力来预测未来的价格走势。

实验表明，基于径向基函数神经网络模型的金融预测系统能够提供较高的准确度和稳定性。

2.2 气象预测径向基函数神经网络模型在气象预测中的应用也取得了良好的效果。

通过输入历史气象数据，神经网络模型可以学习到不同变量之间的关系，并预测未来的天气情况。

与传统的统计模型相比，径向基函数神经网络模型能够更好地捕捉到非线性因素对气象变化的影响，提高了预测的准确性。

径向基函数网络的隐式曲面方法

径向基函数网络的隐式曲面方法

径向基函数网络的隐式曲面方法
李道伦;卢德唐;孔祥言;吴刚
【期刊名称】《计算机辅助设计与图形学学报》
【年(卷),期】2006(18)8
【摘要】将径向基函数网络与隐式曲面构造原理相结合,提出一种构造隐式曲面的方法.首先以描述物体曲面的隐式函数为基础构造三元显式函数,然后用径向基函数网络逼近显式函数,最后从神经网络的仿真超曲面得到描述物体的封闭曲面;并证明了在理论上此等值面可以以任意精度逼近物体曲面.该方法具有光滑度高、稳定性好,尤其适用少量采样点情形等特点.实验表明,它具有很强的造型能力.
【总页数】7页(P1142-1148)
【作者】李道伦;卢德唐;孔祥言;吴刚
【作者单位】中国科学技术大学安徽省计算与通讯软件重点实验室,合肥,230026;中国科学技术大学计算机科学与技术系,合肥,230026;中国科学技术大学安徽省计算与通讯软件重点实验室,合肥,230026;中国科学技术大学安徽省计算与通讯软件重点实验室,合肥,230026;南京财经大学电子商务重点实验室,南京,210003
【正文语种】中文
【中图分类】TP3
【相关文献】
1.简单交互式医学图像隐式曲面配准方法 [J], 马林;黄惠
2.基于广义多项式神经网络的点云数据隐式曲面重构方法 [J], 肖秀春;姜孝华;张雨
浓
3.一种三维点云自适应隐式曲面重构方法 [J], 江盟;蔡勇;张建生
4.隐式与参数曲面间的混合曲面设计方法 [J], 高旭
5.隐式曲面梯度多孔结构拓扑优化设计方法 [J], 孙鹏飞;张跃;尹鹏;刘宏磊;李宝童因版权原因，仅展示原文概要，查看原文内容请购买。

径向基函数神经网络

径向基函数神经网络

径向基函数神经网络模型与学习算法1985年，Powell提出了多变量插值的径向基函数（Radical Basis Function, RBF）方法。

1988年，Moody和Darken提出了一种神经网络结构，即RBF 神经网络，属于前向神经网络类型，它能够以任意精度逼近任意连续函数，特别适合于解决分类问题。

RBF网络的结构与多层前向网络类似，它是一种三层前向网络。

输入层由信号源结点组成；第二层为隐含层，隐单元数视所描述问题的需要而定，隐单元的变换函数RBF（）是对中心点径向对称且衰减的非负非线性函数；第三层为输出层，它对输入模式的作用作出响应。

从输入空间到隐含层空间的变换是非线性的，而从隐含层空间的输出层空间变换是线性的。

RBF网络的基本思想是：用RBF作为隐单元的“基”构成隐含层空间，这样就可以将输入矢量直接（即不需要通过权接）映射到隐空间。

当RBF的中心点确定以后，这种映射关系也就确定了。

而隐含层空间到输出空间的映射是线性的，即网络的输出是隐单元输出的线性加权和。

此处的权即为网络可调参数。

由此可见，从总体上看，网络由输入到输出的映射是非线性的，而网络输出对可调参数而言却又是线性的。

这样网络的权就可由线性方程直接解出，从而大大加快学习速度并避免局部极小问题。

1.1RBF神经网络模型径向基神经网络的神经元结构如图1所示。

径向基神经网络的激活函数采用径向基函数，通常定义为空间任一点到某一中心之间欧氏距离的单调函数。

由图1所示的径向基神经元结构可以看出，径向基神经网络的激活函数是以输入向量和权值向量之间的距离dist 作为自变量的。

径向基神经网络的激活函数的一般表达式为()2dist dist eR -= （1） dist 1x m x 2x 1h ω2h ωihωbn y图1 径向基神经元模型随着权值和输入向量之间距离的减少，网络输出是递增的，当输入向量和 权值向量一致时，神经元输出1。

在图1中的b 为阈值，用于调整神经元的灵敏度。

径向基函数（RBF）神经网络

径向基函数（RBF）神经网络

径向基函数（RBF）神经⽹络RBF⽹络能够逼近任意的⾮线性函数，可以处理系统内的难以解析的规律性，具有良好的泛化能⼒，并有很快的学习收敛速度，已成功应⽤于⾮线性函数逼近、时间序列分析、数据分类、模式识别、信息处理、图像处理、系统建模、控制和故障诊断等。

简单说明⼀下为什么RBF⽹络学习收敛得⽐较快。

当⽹络的⼀个或多个可调参数（权值或阈值）对任何⼀个输出都有影响时，这样的⽹络称为全局逼近⽹络。

由于对于每次输⼊，⽹络上的每⼀个权值都要调整，从⽽导致全局逼近⽹络的学习速度很慢。

BP⽹络就是⼀个典型的例⼦。

如果对于输⼊空间的某个局部区域只有少数⼏个连接权值影响输出，则该⽹络称为局部逼近⽹络。

常见的局部逼近⽹络有RBF⽹络、⼩脑模型（CMAC）⽹络、B样条⽹络等。

径向基函数解决插值问题完全内插法要求插值函数经过每个样本点，即。

样本点总共有P个。

RBF的⽅法是要选择P个基函数，每个基函数对应⼀个训练数据，各基函数形式为，由于距离是径向同性的，因此称为径向基函数。

||X-X p||表⽰差向量的模，或者叫2范数。

基于为径向基函数的插值函数为：输⼊X是个m维的向量，样本容量为P，P>m。

可以看到输⼊数据点X p是径向基函数φp的中⼼。

隐藏层的作⽤是把向量从低维m映射到⾼维P，低维线性不可分的情况到⾼维就线性可分了。

将插值条件代⼊：写成向量的形式为，显然Φ是个规模这P对称矩阵，且与X的维度⽆关，当Φ可逆时，有。

对于⼀⼤类函数，当输⼊的X各不相同时，Φ就是可逆的。

下⾯的⼏个函数就属于这“⼀⼤类”函数：1）Gauss（⾼斯）函数2）Reflected Sigmoidal（反常S型）函数3）Inverse multiquadrics（拟多⼆次）函数σ称为径向基函数的扩展常数，它反应了函数图像的宽度，σ越⼩，宽度越窄，函数越具有选择性。

完全内插存在⼀些问题：1）插值曲⾯必须经过所有样本点，当样本中包含噪声时，神经⽹络将拟合出⼀个错误的曲⾯，从⽽使泛化能⼒下降。

径向基函数神经网络课件

径向基函数神经网络课件

小批量梯度下降算法
01
总结词
小批量梯度下降算法是一种折中的方法，每次使用一小批 样本来更新模型参数，既保持了计算量小的优点，又提高 了模型的稳定性。
02 03
详细描述
小批量梯度下降算法的核心思想是在每次迭代时，随机选 择一小批样本来计算损失函数，并使用梯度下降法或其他 优化方法来更新模型参数。这种方法可以平衡计算量和训 练时间的关系，同时提高模型的稳定性。
径向基函数神经网络课件
目 录
• 径向基函数神经网络概述 • 径向基函数神经网络的基本结构 • 径向基函数神经网络的学习算法 • 径向基函数神经网络的优化策略 • 径向基函数神经网络的实现细节 • 径向基函数神经网络的实例展示 • 总结与展望
01
径向基函数神经网络概述
神经网络简介
神经网络的定义
神经网络是一种模拟人脑神经元网络结构的计算模型，通过学习样 本数据来自动提取特征和规律，并完成分类、回归等任务。
02 03
详细描述
随机梯度下降算法的核心思想是在每次迭代时，随机选择一个样本来计 算损失函数，并使用梯度下降法或其他优化方法来更新模型参数。这种 方法可以大大减少计算量和训练时间。
优缺点
随机梯度下降算法的优点是计算量小，训练时间短，适用于大规模数据 集。但是，由于只使用一个样本进行更新，可能会造成模型训练的不稳 定，有时会出现训练效果不佳的情况。
2
输出层的节点数通常与输出数据的维度相等。
3
输出层的激活函数通常采用线性函数或softmax 函数。
训练过程
01
神经网络的训练过程是通过反向 传播算法实现的。
02
通过计算损失函数对网络权重的 梯度，更新权重以减小损失函数

径向基函数网络共28页文档

径向基函数网络共28页文档

6、最大的骄傲于最大的自卑都表示心灵的最软弱无力。——斯宾诺莎 7、自知之明是最难得的知识。——西班牙 8、勇气通往天堂，怯懦通往地狱。——塞内加 9、有时候读书是一种巧妙地避开思考的方法。——赫尔普斯 10、阅读一切好书如同和过去最杰出的人谈话。——笛卡儿
径向基函数络
11、获得的成功越大，就越令人高兴 。野心 是使人 勤奋的 原因， 节制使 人枯萎 。 12、不问收获，只问耕耘。如同种树 ，先有 根茎， 再有枝 叶，尔 后花实 ，好好 劳动， 不要想 太多， 那样只 会使人 胆孝懒 惰，因 为不实 践，甚 至不接 触社会 ，难道 你是野 人。(名 言网) 13、不怕，不悔(虽然只有四个字，但 常看常 新。 14、我在心里默默地为每一个人祝福 。我爱 自己， 我用清 洁与节 制来珍 惜我的 身体， 我用智 慧和知 识充实 我的头 脑。 15、这世上的一切都借希望而完成。 农夫不 会播下 一粒玉 米，如 果他不 曾希望 它长成 种籽； 单身汉 不会娶 妻，如 果他不 曾希望 有小孩 ；商人 或手艺 人不会 工作， 如果他 不曾希 望因此 而有收 益。-- 马钉路 德。
Thank you

神经网络讲义第7章

若在设计网络时,出现“Rank deficient”,警 告时,应考虑减小spread 的值,重新进行设计。
25.09.2020
.
16
(2)在输出层，以径向基神经元的输出作为 线性网络层神经元的输入,确定线性层神经 元的权值和阈值,使之满足(解如下方程)
[ W { 2 , 1 } b { 2 } ] [ A { 1 } ;o n e s ] T
第七章 径向基网络
BP网络在训练过程中需要对网络的所有权 值和阈值进行修正,把它称之为全局逼近神经网 络。全局逼近神经网络学习速度很慢,所以在一 些实时性较强的场合(如实时控制),其应用受到 限制。径向基网络是一种局部逼近网络,对于每 个训练祥本,它只需要对少量的权值和阈值进行 修正,因此训练速度快。
R i1
wl,i pi
2 W-pT
W-pT
T 1/2
（7.3）
称之为欧几里得距离。
25.09.2020
.
4
径向基函数的图形和符号如图7.2 所示。
图7.2 径向基传输函数的传输特性和符号
25.09.2020
.
5
2. 径向基神经网络模型
径向基神经网络同样是一种前馈反向传播网络, 它有两个网络层：隐层为径向基层;输出为一线性 层,如图7.3 所示。
25.09.2020
.
1
7.1 径向基网络模型
径向基函数(radial basis function , RBF) 方法是在高维空间进行插值的一种技术。 Bromhead和Love在1998年率先使用该技 术,提出了神经网络学习的一种新手段。
25.09.2020
.
2
径向基神经元模型 径向基神经元模型如图7.1 所示。

径向基函数网络


• 正规化网络
• 其中基函数一般选用高斯函数：
• 那么：
正规化网络是一个通用逼近器，只要隐单元足够多，它就可以逼近任意M元 连续函数。且对任一未知的非线性函数，总存在一组权值使网络对该函数的 逼近效果最好。
• 广义网络
• 当基函数为高斯函数时：
RBF神经网络两种模型
• 正规化网络RN：通用逼近器 • 基本思想： • 通过加入一个含有解的先验知识的约束来控制映射函数的光滑性，若输入一
径向基函数网络
• RBF神经网络定义 • RBF神经网络工作原理 • RBF神经网络模型 • RBF神经网络学习算法 • 实例
径向基函数网络（RBF网络）
• 径向基函数是多维空间插值的传统技术，根据生物神经元具有局部响应这一 特点，将RBF引入到神经网络设计中，产生了RBF神经网络。
• RBF网络能够逼近任意的非线性函数，可以处理系统内的难以解析的规律性， 具有良好的泛化能力，并有很快的学习收敛速度，已成功应用于非线性函数 逼近、时间序列分析、数据分类、模式识别、信息处理、图像处理、系统建 模、控制和故障诊断等。
自组织选取中心算法步骤
• 1.基于K-均值聚类方法求取基函数中心
• 2.求解方差 • 3.计算隐含层和输出层之间的权值
实例
根据RBF神经网络的网络结构和工作 原理，可确定以下编程步骤及相关语言： 初始化，确定RBF网络模型的输入，输出 向量。 用newrb()函数设计一个满足一定精度的 RBF网络。
运行程序，可得到函数逼近曲线和函数逼近 外推误差曲线分别为：
23
24
25
谢谢大家 ！
20
下面看一个例子： 用RBF网络逼近Hermit多项式
y(x) 1.1(1 x 2x2 ) exp( x2 ) 2

6 径向基网络


y -0.832 -0.423 -0.024 0.344 1.282 3.456 x y 0 0.248 0.1 1.242 0.2 0.3 0.4 0.5
3.232 2.102 1.504 0.7 0.8 0.9
2.344 3.262 2.052 1.684 1.022 2.224 3.022 1.984
则 t= (1,1) (2,2) (2,3) (1,4) (1,5) (1,6) (1,7) (2,8) (1,9)
1 1 1 1 1 1 1 1 1
同样，以sim对PNN进行仿真的结果， 也只取其中元素值为1的元素，表示的是模 式分类结果和待测试样本的关系，行号表 示模式分类号，列号表示待测试样本序号 （位置），例如： net = newpnn(p,t); p=[0 0 1;… 1 -1 1]; y=sim(net,p) y= (2,1) 1 (2,2) 1 (1,3) 1 为了清晰地表示 分类结果，可采用函 数vec2ind： yc = vec2ind(y) 则 yc = 2 2 1
工具箱中， 在 MATLAB 工具箱中，创建 PNN 的函数为 newpnn。 。
值得提醒的是，第二层的目标向量T表示的是各种模式 和训练样本的关系，行号表示模式分类号，列号表示训练 样本序号（位置），若T的元素值为1，则行号即为列号所 表示的训练样本对应的模式分类号，例如，T(2,1)=1，表示 第1个训练样本的模式分类号为2；若T的元素值为0，则行 号表示的模式分类号不是列号所表示的训练样本对应的模 式分类号，例如，T(2,8)=0，表示第2类模式不是第8个训练 样本的模式分类号。newpnn只采用T中元素值为1的元素， 可以用函数ind2vec实现。 例如： p = [0 0 0 1 1 1 -1 -1 –1;… 0 1 -1 0 1 -1 0 1 -1]; tc= [1 2 2 1 1 1 1 2 1]; t = ind2vec(tc)

7_基于数学原理的神经网络


w G( p
j 1 j
Q
i
p j ) ti 1 i Q
ij G ( pi p j ) 设第j 个隐节点在第i个样本的输出为：
可矩阵表示： ,若R可逆，则解为 W 1T W T 根据Micchelli定理可得，如果隐节点激活函数采用 径向基函数，且p1 , p2 ,..., pQ 各不相同，则线性方程组 有唯一解。
p 1 p 1 w ( X X ) d p 1 P p 2 p 2 w ( X X ) d p 1 P
(7.4)

p P p P w ( X X ) d p 1 P
7
令 ip ( X i X p ) ，i=1, 2, …, P，p=1, 2, …, P， 则上述方程组可改写为
2. 反演S型函数： r
3. 拟多二次函数： r
1 r2 1 exp 2 1

r
2

2 1/ 2

σ 称为基函数的扩展常数 或宽度， σ越小，径向基 函数的宽度越小，基函数 就越有选择性。
10
7.1.3 完全内插存在的问题


(1) 由于插值曲面必须通过所有训练数据点， 当训练数据中存在噪声时，神经网络将拟 合出一个错误的插值曲面，从而使其泛化 能力下降。 (2)由于径向基函数的数量与训练样本数量 相等，当训练样本数远远大于物理过程中 固有的自由度时，插值矩阵求逆时可能导 致不稳定。
20

所示为N-P-l结构的RBF网，即网络具有N个输入节点，P个隐节点，l个输出节点。 其中P为训练样本集的样本数量，即隐层节点数等于训练样本数。输入层的任一节 点用i表示，隐层的任一节点用j表示，输出层的任一节点用k表示。对各层的数学描 述如下：X= (x1，x2，…，xN)T为网络输入向量；φj(X)，(j=1,2,…, P)，为任一隐节 点的激活函数，称为“基函数”,一般选用格林(Green)函数；W为输出权矩阵，其中 wjk, (j=1,2,…, P, k=1,2,…, l), 为隐层第j个节点与输出层第k个节点间的突触权值； Y=(y1，y2，…，yl) T为网络输出；输出层神经元采用线性激活函数。
  1. 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
  2. 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
  3. 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。

4.概率神经网络
PNN网络的优点 Ø训练容易，收敛速度快，从而非常适用于实时处理。
Ø 可以实现任意的非线性逼近，用PNN网络所形成的判决曲面 与贝叶斯最优准则下的曲面非常接近。
Ø 只要有充足的样本数据，概率神经网络都能收敛到贝叶斯分 类器，没有BP网络的局部极小值问题
Ø 扩充性能好。网络的学习过程简单，增加或减少类别模式时 不需要重新进行长时间的训练学习
在实际应用中，一般都采用广义径向基函数网络。
2.径向基神经网络的学习算法
I
ykj 0 j ij ( X k , X i ), j 1, 2,, J i 1
Ø 确定隐含层结点中心 Ø 隐含层中基函数的标准差 Ø 网络权值（隐含层到输出层）
随机选取固定中心、自组织选取中心、有监督选取中心、正交最小二乘法
dmax
2n
dmax 所选取的中心之间的最大距离 n为隐含节点的个数
网络权值可以采用伪逆法 ω = G+d G为隐含层输出，d为输出层的期望输出
3.径向基神经网络与多层感知器的比较
Ø 径向基神经网络是三层网络（输入层、隐含层、输出层），只有一个隐 含层，而多层感知器则可以有多个隐含层 Ø 径向基神经网络的隐含层和输出层完全不同，隐含层采用非线性函数 （径向基函数）作为基函数，而输出层采用线性函数，两者作用不同。 Ø 径向基神经网络的基函数计算的是输入向量与基函数中心之间的欧式距 离（两者取差值，再取欧几里德范数），而多层感知器的隐单元的激励函 数则计算输入向量与权值的内积 Ø 多层感知器对非线性映射全局逼近 ，径向基函数局部逼近
net=newr网络的一个特点就是：隐含节点的个数等于输入训 练样本的个数。因此如果训练样本的个数N过大，网络的计算 量将是惊人的，从而导致过低的效率甚至根本不可实现。
解决的方案是用Galerkin方法来减少隐含层神经单元的个 数，此时求得的解是较低维数空间上的次优解 。这就是广义 网络
用。
由三层构成的前向网络 。
Ø径向基网络
Ø 第一层为输入层，节点个数等于输入的维数；
Ø概率神经网络
Ø 第二层为隐含层，节点个数视问题的复杂度而定； Ø广义回归网络模式分类 Ø 第三层为输出层，节点个数等于输出数据的维数。 和函数逼近
隐含层是非线性的，采用径向基函数作为基函数，从而将 输入向量空间转换到隐含层空间，使原来线性不可分的问题 变得线性可分，输出层则是线性的。
test=1:.2:10;
out=sim(net,test);
% 对新的输入值test计算相对应的函数值
figure(1);hold on;plot(test,out,'b-');
legend('输入的数据','拟合的函数');
n
CMi k
i0
6.径向基神经网络相关函数详解
newrbe——设计一个严格的径向基网络 ————正则化RBF网络
6.径向基神经网络相关函数详解
newrb——设计一个径向基函数网络. 函数创建一个径向基函数网络，该网络向隐含层添加隐含节点，直到 均方误差满足要求为止
net=newrb(P,T,goal,spread,MN,DF)
P是R*Q输入矩阵：每列一个输入样本 T是S*Q期望输出矩阵：每列一个输出样本 goal是标量，为指定的均方误差，缺省值为0 spread也是标量，表示径向基函数的扩散速度，缺省值为1
4.概率神经网络
概率神经网络（Probabilistic Neural Networks，PNN）在模式 分类问题中获得了广泛应用 。
概率神经网络可以视为一种径向基神经网络，在RBF网络的 基础上，融合了密度函数估计和贝叶斯决策理论。在某些易满足的
条件下，以PNN实现的判别边界渐进地逼近贝叶斯最佳判定面。
5.广义回归神经网络
广义回归神经网络（General Regression Neural Network，GRNN）是 径向基网络的另外一种变形形式
广义回归网络以径向基网络为基础，因此具有良好的非线性逼近性能， 与径向基网络相比，训练更为方便
广义回归神经网络尤其适合解决曲线拟合的问题
在MATLAB中newgrnn函数可以方便的实现GRNN网络
6.径向基神经网络相关函数详解
生成正弦函数，加入均匀分布的噪声，再用newrb建立 径向基函数进行拟合。
P=1:.5:10;
rand('state',pi);
T=sin(2*P)+rand(1,length(P));
% 给正弦函数加噪声
plot(P,T,'o')
% net=newrb(P,T);
net=newrb(P,T,0,0.6);
第7章 径向基函数网络
编者
Outline
n 1.径向基神经网络的两种结构 n 2.径向基神经网络的学习算法 n 3.径向基神经网络与多层感知器的比较 n 4.概率神经网络 n 5.广义回归神经网络 n 6.径向基神经网络相关函数详解 n 7.径向基网络应用实例
1.径向基神经网络的两种结构
Broomhead和Lowe根据生物神经元具有局部响应的原理，将 径向基函数引入到神经网络中。很快，RBF网络被证明对非线性 网络具有一致逼近的性能，在不同行业和领域逐步得到了广泛应
贝叶斯：通过先验 概率求后验概率。
p c1
x
p c1 p x
px
c1
4.概率神经网络
概率神经网络由输入层、隐含层、 求和层和输出层组成
Ø 第一层为输入层，用于接收来自训练样本的值，将数据传递给隐含层 Ø 径向基层，每一个隐含层的神经元节点拥有一个中心，该层接收输入 层的样本输入，计算输入向量与中心的距离，最后返回一个标量值 Ø 求和层把隐含层中属于同一类的隐含神经元的输出做加权平均 Ø 输出层取求和层中最大的一个作为输出的类别
1.径向基神经网络的两种结构
径向基函数：有多种形式，其中 最为常用的，是高斯函数
( X -Xi )
输入层
隐含层
输出层（线性）
1.正则化网络是一个通用逼近器，这意味着，只要有足够多的隐 含节点，它就可以以任意精度逼近任意多远连续函数。
2.给定一个未知的非线性函数f，总可以选择一组系数，使得网络 对f的逼近是最优的。