当前位置:文档之家› 基于多源信息和广义回归神经网络的下肢运动模式识别_刘磊

基于多源信息和广义回归神经网络的下肢运动模式识别_刘磊

基于多源信息和广义回归神经网络的下肢运动模式识别_刘磊
基于多源信息和广义回归神经网络的下肢运动模式识别_刘磊

第37卷第3期2015年5月机器人ROBOT V ol.37,No.3

May,2015

DOI:10.13973/https://www.doczj.com/doc/9316239561.html,ki.robot.2015.0310

基于多源信息和广义回归神经网络的下肢运动模式识别

刘磊1,杨鹏1,2,刘作军1,2

(1.河北工业大学控制科学与工程学院,天津300130;

2.智能康复装置与检测技术教育部工程研究中心,天津300130)

摘要:针对目前下肢运动模式识别率低的问题,提出了一种基于多源信息和广义回归神经网络(GRNN)的下肢运动模式识别方法.通过足底压力信息将人体日常下肢动作分解为不同的动作片段以组成识别目标集.采用下肢表面肌电信号中的偏度、峭度、功率谱熵,以髋关节角度作为腿部特征值,利用主成分分析(PCA)方法对文中提取的特征值进行降维处理,以缩短模型训练时间,防止过拟合.最后,利用GRNN对目标集中平地行走、上楼、下楼3种动作进行识别.实验结果表明,该方法的正确识别率为90.16%.

关键词:多源信息;片段分解;主成分分析;下肢运动模式识别;广义回归神经网络

中图分类号:TP391文献标识码:A文章编号:1002-0446(2015)-03-0310-08

Lower Limb Locomotion Modes Recognition Based on Multiple-source Information and

General Regression Neural Network

LIU Lei1,YANG Peng1,2,LIU Zuojun1,2

(1.School of Control science and Engineering,Hebei University of Technology,Tianjin300130,China;

2.Engineering Research Center of Intelligent Rehabilitation and Detecting Technology,Tianijin300130,China)

Abstract:In order to improve recognition rate of lower limb locomotion modes,a method based on multiple-source information and general regression neural network(GRNN)is https://www.doczj.com/doc/9316239561.html,ers’daily lower limb locomotion modes are decomposed into different segments to form the recognition goals using the plantar pressure sensor.For surface electromyo-graphy(sEMG)signal,three features are used,i.e.skewness,kurtosis,and power spectral entropy.The hip joint angle is chosen as leg features.In order to decrease the time for training the models and to prevent over?tting,principal component analysis(PCA)is used to reduce the dimension of the extracted features.GRNN is used to recognize3kinds of motions, namely stairs ascent,stairs descent and level-ground walking.The experimental results show that the recognition correct rate is90.16%.

Keywords:multiple-source information;fragment decomposition;principal component analysis(PCA);lower limb loco-motion mode recognition;general regression neural network(GRNN)

1引言(Introduction)

我国是世界上老年人口最多、增长最快的国家之一,预计到2040年,60岁以上人口将达到3.74亿人[1].如何提高老年人的生活质量已经成为社会各界关注的焦点.助行器有助于提高老年人的生活质量,是康复工程的一个研究前沿方向,要使助行器具有对各种运动模式的适应能力,下肢运动模式识别是其中的一个关键环节,研究人员对此开展了大量研究工作.表面肌电信号(surface electromyo-gram,sEMG)是肌肉收缩时伴随的电信号,是在体表无创检测肌肉活动的重要方法[2].文[3-5]以

表面肌电信号作为信息源,分别利用了隐马尔可夫模型(hidden Markov model,HMM)、神经网络、支持向量机等分类器实现下肢运动模式识别.文[6]采用加速度和角度传感器作为信息源识别步态.文[7]基于髋关节加速度、足底压力信息识别步态.上述算法存在一个问题有待解决,人体下肢运动特征无法准确描述.BenAbdelkader[8]等分别使用学习矢量量化网络、自组织特征映射神经网络对人体动作进行模式识别.近年来,一些学者开始利用BP (反向传播)神经网络解决具有高度非线性、复杂性的下肢运动模式识别问题,但是,BP算法不可

基金项目:国家自然科学基金资助项目(61203323,61174009);天津市自然科学基金资助项目(13JCQNJC03400).通信作者:杨鹏,yphebut@https://www.doczj.com/doc/9316239561.html,收稿/录用/修回:2014-07-02/2014-11-13/2015-01-28

第37卷第3期刘磊,等:基于多源信息和广义回归神经网络的下肢运动模式识别311

避免地存在局部极小值、学习算法收敛速度慢等问题.

为了克服上述方法的不足,本文建立了一个由髋关节角度、足底压力和下肢表面肌电信号传感器组成的下肢多源运动信息采集系统,将平地行走、上楼、下楼分解为12个片段,利用广义回归神经网络(GRNN,generalized regression neural network)识别.该方法为下肢运动模式识别开辟了一个新思路,实验表明,该方法是一种可行且有效的方法.

2下肢多源信息采集系统(Multiple-source information acquisition system of lower limb)

为了提高人体下肢运动信息获取的全面性,本文建立了下肢多源信息采集系统,主要包括3方面信息:足底压力信号、下肢表面肌电信号、髋关节角度信号.

2.1足底压力信号

在人体下肢运动过程中,足底压力信息能够直观地反映人体当前的运动状态.本文主要是研究前脚掌与后脚跟两个位置的受力情况,图1为脚的两个主要受力点.这两点也是划分步态周期以及步态相位的标志性部位,当脚后跟着地时,后脚跟压力传感器受力,当前脚掌落地时,前脚掌压力传感器受力.大量试验证明,只需测试受试者的前脚掌和脚后跟两点的压力便能够较准确地反映人行走的步态相位.

? ?

?? ?

图1足底压力受力点

Fig.1Plantar force points

2.2下肢表面肌电信号

sEMG是肌肉收缩时伴随的电信号,可通过在皮肤表面使用电极来引导和记录.该信号是一种微弱的电信号,在时域上可以看作是一组交流电压信号的叠加,与肌肉产生的力大致成比例[9].人体不同的肢体动作具有不同的肌肉收缩模式,肌电信号特征也将有所差异.sEMG能提供准确丰富的运动信息,因此选其作为下肢多运动模式的信号源.本文根据不同下肢运动模式下肌电信号的变化趋势,选择了特征比较明显的5块肌肉进行研究.

表1选取的肌群及其功能描述

Tab.1Description for selected muscles and their motion

functions

肌群主要功能

股直肌

(vastus rectus,VR)

屈曲髋关节

阔筋膜张肌

(tensor fasciae latae,TFL)

紧张阔筋膜并屈大腿

半腱肌

(semitendinosus,ST)

伸髋屈膝,

以及膝关节的外旋

长收肌

(vastus lateralis,VL)

内收、外旋、

微屈髋关节

大腿二头肌

(biceps muscle of thigh,BM)

屈小腿、伸大腿、

使小腿外旋

2.3髋关节角度信号

人体下肢运动时,髋关节的屈曲和伸展实现人体前进、后退、重心上升以及下降运动,髋关节角度总是随着步态周期的轮替而呈现出周期性变化.下肢髋关节角度信号是表征下肢不同运动模式的关键信息,对此测得平地行走、上楼、下楼髋关节角度值,进一步分析可以判断下肢运动模式.

3下肢运动模式识别方法(Lower limb lo-comotion mode recognition method)

3.1下肢动作片段分解

平地行走、上下楼梯等下肢运动存在一定规律性、周期性.图2

给出了下肢步态周期的划分.

?? 60%? ?? 40%? ?

图2下肢步态周期的划分

Fig.2Gait cycle division of lower limb

一个正常步态周期指从足跟着地到同侧腿足跟再次着地所经历的时间,成年健康人一般速度下步态周期约为1.2s~1.6s.通常将一个步态周期划分为支撑相和摆动相.支撑相指从足跟触地到足趾离地的时期,约占整个步态周期的60%;摆动相是指支撑期过后,从足趾离地到再次足跟触地的期间,约占整个步态周期的40%.支撑相又可细分为支撑相前期、支撑相中期、支撑相后期[10].本文根据上述规律对平地行走、上楼、下楼3种运动模式进

312机器人2015年5月

行了如下的动作分解.平地行走:平地行走支撑前期A1、平地行走支撑中期A2、平地行走支撑后期A3、平地行走摆动期A4;上楼梯:上楼梯支撑前期B1、上楼梯支撑中期B2、上楼梯支撑后期B3、上楼梯摆动期B4;下楼梯:下楼梯支撑前期C1、下楼梯支撑中期C2、下楼梯支撑后期C3、下楼梯摆动期C4.

3.2

特征提取

肌电信号、髋关节角度特征提取是进行模式识别的基础,识别特征选取的合理与否将会直接影响到识别结果的准确性.3.2.1髋关节角度特征提取

图3给出了受试者3种运动模式髋关节角度信号.前文中将不同运动模式(上楼梯、下楼梯、平地行走)细分为支撑前期、支撑中期、支撑后期、摆动期4个运动状态.本文把髋关节角度在每0.1s 内的均值作为特征值,计算公式为

K =

N ∑

i =1

θi

N max

(1)

式中,θi 表示不同运动模式下髋关节角度值,θmax 表示人体运动中髋关节角度的最大值,N 表示0.1s 内传感器的采样点数.

?

? ? ?/%

僻 ?? /(o)

图33种运动模式髋关节角度信号

Fig.3

Hip angle signal of 3kinds of locomotion modes

3.2.2下肢表面肌电信号特征提取

图4为受试者在3种运动模式下的股直肌信号.表面肌电信号通常有多种特征提取方法,主要有自回归(AR )模型系数、绝对值积分值、倒谱系数、小波包变换系数等[11].为了能够从表面肌电

信号中提取有效的特征,本文以肌电信号的偏度、峭度、功率谱熵作为特征值进行分析.

---4

???

?? /m V

(a)平地行走股直肌信号图

----5

???

?? /m V

(b)上楼股直肌信号图

--5

???

?? /m V

(c)下楼股直肌信号图图43种运动模式股直肌信号

Fig.4Rectus femoris signal of 3kinds of locomotion modes

第37卷第3期刘磊,等:基于多源信息和广义回归神经网络的下肢运动模式识别313

sEMG 的时域特征偏度(η)和峭度(μ)分别反映了肌电信号随机序列不对称程度和陡峭程度,可以很好地描绘细节变化,定义如下:

η=√

1

6N N ∑i =0(x (t i )??X

X

X )3(2)

μ=√124N [N

∑i

=0

(x (t i )??X X

X )4?3](3)

式中,x (t i )表示sEMG 序列值,N 表示一个周期肌

电信号离散化后序列总和,?X

X 表示sEMG 数学期望,?σ

X 表示肌电信号的方差.(a)平地行走股直肌功率谱密度图

(b)上楼股直肌功率谱密度图

(c)下楼股直肌功率谱密度图

图53种运动模式股直肌功率谱密度图

Fig.5

Rectus muscle power spectral density of 3kinds of

locomotion modes

图5是一名受试者在3种运动模式下股直肌的功率谱密度,不难看出,股直肌在不同的运动模式之间功率谱分布不同.FFT (快速傅里叶变换)是目前用得最多的一种谱变换方法.信号经过FFT 变换后得到的功率谱的熵称为功率谱熵,sEMG 功率谱熵计算方法如下:

(1)信号{x i }的离散傅里叶变换为X (ωi ),ωi 表示第i 个频率点,则其功率谱密度为

p (ωi )=1

N |X (ωi )|2(4)

(2)按照式(4)计算sEMG 的功率谱密度分布函数,然后按照式(5)计算sEMG 的功率谱熵:

p i =p (w i )∑

p (w i )

(5)

因此,通过计算肌电信号功率谱熵,可以提取

sEMG 的特征值,进而反映出下肢运动特征.3.3特征值筛选

GRNN 的输入包括髋关节角度特征值和5块肌肉的功率谱熵、偏度、峭度共16个特征值,16个特征值如果组合成一个特征向量并且直接作为

GRNN 的输入向量,将导致网络结构过于庞大和网络训练过于复杂.主成分分析(PCA )是一种数据压缩和特征提取的多元统计分析技术,旨在利用降维的思想,把多指标转化为少数几个综合指标[12].本文使用

PCA 算法进行特征筛选.3.4GRNN 神经网络

GRNN 是美国学者Specht 在1991年提出的,因其具有训练过程不需迭代、学习速度较快、仅有一个参数需人为调整等优点而在模式识别领域得到较广泛的应用[13-14].

?

Q ?

R

Q

S 图6广义回归神经网络结构图Fig.6GRNN neural network model

GRNN 包括3层神经元,分别是输入层、隐含层和输出层.R 表示输入数据的维数,Q 表示训练集样本数目,S 表示输出变量的维数,P 表示训练集样本输入矩阵.输入层将接收到的数据传递给隐含层,隐含层的神经元个数等于训练集的样本数.该层与输入层的权值是由欧氏距离函数(||dist ||)

314机器人2015年5月

确定,隐含层的转移函数为径向基函数,该层的阈值为

b =[b 11,b 12,···,b 1Q ]T (6)其中,

b 11=b 12=···=b 1Q =

0.8326

σ

(7)

σ为径向基函数的扩展速度,隐含层神经元的输出为

a i

=exp (?∥C ?p i ∥2b 1)

,i =1,2,3,···,Q (8)

其中,p i 表示第i 个训练样本向量,C 表示Q 个神经元的径向基函数中心矩阵.

C =P T

(9)

线性输出层与隐含层的权值是由规范化点积权函数G ()来确定,n 2表示计算网络向量,网络的输出由线性传递函数a 2=K (n 2)得到.

n i

=LW 2,1a i

Q

∑j =1

a i

j

,i =1,2,3,···,Q (10)

y i =K (n i )

=n i ,i =1,2,3,···,Q

(11)

将GRNN 神经网络输出值与实际值均方差E 作为网络性能的评价指标,扩展速度σ是影响网络性能的重要因素,本文采用黄金分割法对σ进行优化.黄金分割法的具体步骤如下:

1)在搜索区间[σmin ,σmax ]内取σ1、σ22个点,且满足σ1<σ2.黄金分割法的试探点计算公式如式(12)、(13)所示:

σ1=σmin +(1?0.618)(σmax ?σmin )(12)σ2=σmax ?(1?0.618)(σmax ?σmin )

(13)

2)如果E (σ1) E (σ2),表明在区间[σmin ,σ2]存在E 的最小值.下次迭代时σmin 不变,σmax =σ2;如果E (σ1)>E (σ2),表明在区间[σ1,σmax ]存在E 的最小值.下次迭代时,σmin =σ1,σmax 不变.

3)循环执行步骤1)、2),若|σmax ?σmin |<ε,停止计算,ε是给定常数.σbest 为最佳径向基函数

的扩展速度,σbest =σ1+σ2

2

4

实验(Experiment )

4.1

算法流程图

利用多源信息和GRNN 识别下肢运动模式算法的流程图如图7所示,主要包括:下肢多源信息信号采集,利用足底压力信息将人体下肢动作分为支撑前期目标集、支撑中期目标集、支撑后期目标

集、摆动期目标集,然后利用肌电信号和髋关节角度特征对每一个目标集细分.

图7算法流程图

Fig.7

Flow chart of the algorithm

4.2实验平台及实验对象

实验平台如图8所示.实验对象为5名健康学生,男性3名,年龄(25±5)岁,体重(70.0±5.0)kg ,身高(170.0±5.0)cm ,编号为1~3;女性2名,年龄(22±5)岁,体重(50.0±5.0)kg ,身高(160.0±5.0)cm ,编号为4、5.实验前受试者被告知实验目的、实验过程,均为自愿参加数据采集工作.实验前24h 没有进行过任何形式的剧烈运动.下肢多源信息采集系统如图9所示.为避免行走速度影响实验结果,受试者上下楼梯、上下坡时以正常速度进行.

传感器选用美国Delsys 公司生产的TRIGNO 无线肌电信号系统,信号采集频率为1000Hz ,并配有肌电采集分析软件(中文)一套.测量足底压力的薄膜开关如图10所示.足底压力信号采样频率为1000Hz ,单位为V .角度传感器选用的是村田公司的压电振动陀螺仪传感器ENC-03.采集前用75%的医用酒精反复擦拭待测部位皮肤表面以去除油污,保证sEMG 信号的可靠性.每位受试者采

第37卷第3期刘磊,等:基于多源信息和广义回归神经网络的下肢运动模式识别315

集3种运动模式的sEMG和髋关节角度、脚底压力信号100组,其中80组用于网络训练,另外20组数据用于测试.

图8实验平台

Fig.8Experimental platform

图9下肢多源信息采集系统

Fig.9Multiple-source information acquisition system of lower

limb

图10足底压力传感器

Fig.10Foot pressure sensor 4.3实验结果

以受试者1的实验数据为例介绍该算法的实验结果,在离线状态下从数据文件中读取肌电信号、髋关节角度、脚底压力信号.本文选取5V和0V 作为引起足底压力信号变化的阈值,检测前脚掌和后脚跟压力传感器信号在1个步态周期内支撑前期、支撑中期、支撑后期和摆动期4个变化时刻.当前脚掌和后脚跟压力均为0时,表示步态处于摆动期;当后脚跟有压力、前脚掌压力为0时,表示步态处于支撑前期;当前脚掌和后脚跟均有压力时,表示步态处于支撑中期;当前脚掌有压力、后脚跟压力为0时,表示步态处于支撑末期.以此作为划分步态周期的依据.细分模式运动状态用数字表示,其中2表示支撑前期,3表示支撑中期,4表示支撑末期,5表示摆动期.得到足底压力信号,归一化处理后足底压力信号和表征细分模式运动状态的梯形图如图11所示.

?

???

?

/

V

???

?

/

V

???

?

?

?

图11受试者1平地行走前后脚压力信号与细分模式运动

状态

Fig.11Pressure signal and segment motion state of user1’s front and rear feet during level-ground walking

按上述方法进行特征提取,特征值为5×3+1 =16维,通过主成分分析降维算法对特征值进行降维处理.表2给出了主成分分析表,从结果中可以看到,前7个主成分累积贡献率达到了90.19%,几乎覆盖了整个特征空间,可以概括原始特征值,取前7个主成分作为筛选后的特征值.

316机器人2015年5月

表2主成分的贡献率和累积贡献率

Tab.2Principal component contribution rate and cumulative

contribution rate 主成分特征值贡献率/%累积贡献率/%

1 5.27428.328.3

2 4.75621.649.9

3 3.92414.864.7

4 2.1658.8373.53

5 1.7397.6681.19

6 1.40

7 5.186.2970.423 3.990.1980.249

1.7

91.89

(16)

0.019

0.002

100

识别目标定义为:1表示平地行走,2表示上楼,3表示下楼.GRNN 神经网络为3层.输入层神经元个数为7,隐含层神经元个数为80,输出层神经元个数为1.隐含层传递函数为高斯函数,输出层传递函数为高斯函数,输出层传递函数为线性传递函数.本文利用黄金分割法寻找最优的σ,使得训练样本的GRNN 输出值与实际值的均方差E 最小.设扩展速度σ的范围为[0,0.3],图12给出了用黄金分割搜索算法找出的使E 最小的σ值.设tol =0.01,竖线所在的横坐标是各插入点,得到最佳扩展速度σ=0,018.

?

? 图12黄金分割算法寻找最佳扩展速度

Fig.12Golden mean algorithm to ?nd the best expansion

speed

将GRNN 训练好的网络保存后,作为测试数据识别的工具.表3给出了下肢运动模式识别率,5名受试者的平均识别率为90.16%,由表3的统计数据可知,下肢运动模式识别的实际效果良好,能较好地满足助行器使用者康复运动的需要.表4给

出了本文方法与单独利用肌电信号的步态识别[15]

和单独利用腿部运动信息的步态识别[6,16]方法的比较.本文方法上楼、下楼、平地行走运动模式中摆动期识别出错较多,主要原因是肢体运动摆腿过程中同时涉及到腿部肌肉的向心收缩和离心收缩,肌电信号复杂,增大了识别难度,造成部分样本的误识别.

表35名受试者下肢运动模式识别正确率

Tab.3Recognition correct rate of lower limb locomotion

modes for 5users 片段识别率受试者1受试者2受试者3受试者4受试者5A1/%100909010080B1/%908010090100C1/%1001008090100D1/%7090807080A2/%801009090100B2/%100909010090C2/%1009010090100D2/%8070808090A3/%1001008010090B3/%909010090100C3/%1001009010090D3/%8080808080合计/%90.89088.39091.7平均识别时间/s

0.78

0.84

0.89

0.72

0.62

表4本文方法与已有方法的比较

Tab.4Comparison between the proposed method and the

existing methods

方法

识别率/%

基于加速度和陀螺仪信号的下肢运动模式识别[6]82基于加速度信号的下肢运动模式识别[16]78.75基于肌电信号的下肢运动模式识别[15]87.1本文方法

90.16

5结论(Conclusion )

本文建立了一个由足底压力、髋关节角度和下肢肌电信号传感器组成的下肢多源信息采集系统,将平地行走、上楼、下楼分解为12个片段,结合GRNN 神经网络提出了一种下肢运动模式识别方法.实验结果证明该方法具有较高的准确性,为助行器的研制提供了一定基础,但是该方法距离实用还有一定的差距.因为本文搭建的是基于PC 机的多源信息采集系统,系统比较庞大,下一步工作是

第37卷第3期刘磊,等:基于多源信息和广义回归神经网络的下肢运动模式识别317

开发出一套小型化嵌入式信号获取系统,以便于信号的采集与识别.

参考文献(References)

[1]喻洪流,张晓玉.假肢矫形器原理与应用[M].1版.南

京:东南大学出版社,2011:2–3.

Yu H L,Zhang X Y.Principle and application of the prosthet-ic brace[M].1st ed.Nanjing:Southeast University Press,2011: 2–3.

[2]Huang H,Kuiken T A,Lipschutz R D.A strategy for iden-

tifying locomotion modes using surface electromyography[J].

IEEE Transactions on Biomedical Engineering,2009,56(1): 65–73.

[3]孟明,佘青山,罗志增.HMM在下肢表面肌电信号步

态识别中的应用[J].华中科技大学学报:自然科学版,2011,39(S2):176–179.

Meng M,She Q S,Luo Z Z.The application of HMM in gait recognition using lower limb sEMG[J].Journal of Huazhong University of Science&Technology:Natural Science Edition, 2011,39(S2):176–179.

[4]刘秀云.基于EMG-KJA神经肌骨动力学模型的下肢动作

模式识别及运动轨迹预测[D].天津:天津大学,2012.

Liu X Y.Motion pattern recognition&kinematic trajectory prediction of lower limb based on EMG-KJA neuro-musculo-skeletal model[D].Tianjin:Tianjin University,2012.

[5]佘青山,高云园,孟明,等.下肢EMG的小波支持向量

机多类识别方法[J].华中科技大学学报:自然科学版,2010,38(10):75–79.

She Q S,Gao Y Y,Meng M,et al.Multiclass recognition of lower limb EMG using wavelet SVM[J].Journal of Huazhong University of Science&Technology:Natural Science Edition, 2010,38(10):75–79.

[6]苟斌,刘作军,赵丽娜,等.基于相关性分析的下肢假

肢步行模式预识别方法[J].东南大学学报:自然科学版,2013,43(1):192–196.

Gou B,Liu Z J,Zhao L N,et al.Walking mode pre-judgment of lower limb prosthesis based on correlation analysis[J].Journal of Southeast University:Natural Science Edition,2013,43(1): 192–196.

[7]赵丽娜,刘作军,苟斌,等.基于隐马尔可夫模型的动力

型下肢假肢步态预识别[J].机器人,2014,36(3):337-341.

Zhao L N,Liu Z J,Gou B,et al.Gait pre-recognition of dy-namic lower limb prosthesis based on hidden Markov model[J].

Robot,2014,36(3):337-341.

[8]BenAbdelkader C,Cutler R,Davis L.Motion based recognition

of people in eigengait space[C]//IEEE International Conference on Automatic Face and Gesture Recognition.Piscataway,USA: IEEE,2002:267-272.

[9]佟丽娜,侯增广,彭亮,等.基于多路sEMG时序分析

的人体运动模式识别方法[J].自动化学报,2014,40(5):810-821.

Tong L N,Hou Z G,Peng L,et al.Multi-channel sEMG time se-

ries analysis based human motion recognition method[J].Acta

Automatica Sinica,2014,40(5):810-821.

[10]熊静.下肢姿态检测及运动状态预测算法研究[D].杭州:

杭州电子科技大学,2009.

Xiong J.Detection of lower limb posture and research on pre-

diction algorithm for movement state[D].Hangzhou:Hangzhou

Dianzi University,2009.

[11]Tkach D,Huang H,Kuiken T A,et al.Study of stability of

time-domain features for electromyographic pattern recogni-

tion[J].Journal of Neuroengineering and Rehabilitation,2010,

7:No.21.

[12]Hargrove L J,Li G L,Englehart K B,et al.Principal compo-

nents analysis preprocessing for improved classi?cation accura-

cies in pattern-recognition-based myoelectric control[J].IEEE

Transactions on Biomedical Engineering,2009,56(5):1407-

1414.

[13]Su I J,Tsai C C,Sung W https://www.doczj.com/doc/9316239561.html,parison of BP and GRNN

algorithm for factory monitoring[J].Applied Mechanics and

Materials,2011,52-54:2105-2110.

[14]冯志鹏,宋希庚,薛冬新,等.基于广义回归神经网络的

时间序列预测研究[J].振动、测试与诊断,2003,23(2):105-109.

Feng Z P,Song X G,Xue X D,et al.General regression neural

network based prediction of time series[J].Journal of Vibration,

Measurement&Diagnosis,2003,23(2):105-109.

[15]吴剑锋,吴群,孙守迁.简约支持向量机分类算法在下肢

动作识别中的应用研究[J].中国机械工程,2011,22(4):433-438.

Wu J F,Wu Q,Sun S Q.Research on classi?cation algorithm

of reduced support vector machine for low limb movement

recognition[J].China Mechanical Engineering,2011,22(4):

433-438.

[16]刑秀玉,刘鸿宇,黄武.基于加速度的小波能量特征及样

本熵组合的步态分类算[J].传感技术学报,2013,26(4):545-549.

Xing X Y,Liu H Y,Huang W.Gait pattern classi?cation with

wavelet energy and sample entropy based on acceleration sig-

nals[J].Chinese Journal of Sensors and Actuators,2013,26(4):

545-549.

作者简介:

刘磊(1984–),男,博士生.研究领域:模式识别,康复辅具.

杨鹏(1960–),男,博士,教授.研究领域:康复辅具,智能机器人,模式识别.

刘作军(1971–),男,博士,教授.研究领域:康复辅具,智能机器人,模式识别.

广义回归神经网络MATLAB源程序

GRNN神经网络---广义回归神经网络,主要用于函数逼近。 x=-2:0.01:1 y=2*x.^6+3*x.^5-3*x.^3+x.^2+1 P=x(1:15:end) T=y(1:15:end) spread=[0.05 0.2 0.4 0.6 0.8]; l_style={'r.-','bo--','ko-.','k*--','r^-'}; for i=1:length(spread) net=newgrnn(P,T,spread(i)); a=sim(net,P); plot(P,a,l_style{i}) hold on end plot(P,T,'o'); legend('spread=0.05','spread=0.2','spread=0.4' ,'spread=0.6','spread=0.8','train data'); title('GRNN神经网络spread探讨')

load data; % 载入数据并将数据分成训练和预测两类 p_train=p(1:10,:); p_test=p(11:13,:); t_train=t(1:10,:); t_test=t(11:13,:); % 将各个矩阵转置以便适应网络结构 p_train=p_train'; t_train=t_train'; p_test=p_test'; t_test=t_test'; % 将数据归一化 [pn,minp,maxp,tn,mint,maxt]=premnmx(p_train,t_ train); p2n=tramnmx(p_test,minp,maxp); for sc=0.1:0.01:1; tic, net=newgrnn(pn,tn,sc);

神经网络模式识别Matlab程序

神经网络模式识别Matlab程序识别加入20%噪声的A-Z26个字母。(20%噪声情况下,完全能够识别)clear;close all; clc; [alphabet,targets]=prprob; [R,Q]=size(alphabet); [S2,Q]=size(targets); S1=10; P=alphabet; net=newff(minmax(P),[S1,S2],{'logsig''logsig'},'traingdx'); net.LW{2,1}=net.LW{2,1}*0.01; net.b{2}=net.b{2}*0.01; T=targets; net.performFcn='sse'; net.trainParam.goal=0.1; net.trainParam.show=20; net.trainParam.epochs=5000; net.trainParam.mc=0.95; [net,tr]=train(net,P,T); netn=net; netn.trainParam.goal=0.6; netn.trainParam.epochs=300; T=[targets targets targets targets]; for pass=1:10; P=[alphabet,alphabet,... (alphabet+randn(R,Q)*0.1),... (alphabet+randn(R,Q)*0.2)]; [netn,tr]=train(netn,P,T); end netn.trainParam.goal=0.1; netn.trainParam.epochs=500; netn.trainParam.show=5; P=alphabet; T=targets; [netn,tr]=train(netn,P,T); noise_percent=0.2; for k=1:26 noisyChar=alphabet(:,k)+randn(35,1)*noise_percent; subplot(6,9,k+floor(k/9.5)*9); plotchar(noisyChar); de_noisyChar=sim(net,noisyChar); de_noisyChar=compet(de_noisyChar);

人工神经网络模式识别

人工神经网络模式识别 一、人工神经网络模式识别 1、人工神经网络的概述 人工神经网络从人脑的生理学和心理学角度出发,通过模拟人脑的工作机理,实现机器的部分智能行为,是从微观结构和功能上对人脑进行抽象和简化,是模拟人类智能的一条重要途径。具体的模式识别是多种多样的,如果从识别的基本方法上划分,传统的模式识别大体分为统计模式识别和句法模式识别,在识别系统中引入神经网络是一种近年来发展起来的新的模式识别方法。尽管引入神经网络的方法和引入网络的结构可以各不相同,但都可称为神经网络模式识别。而且这些识别方法在解决传统方法较难处理的某些问题上带来了新的进展和突破,因而得到了人们越来越多的重视和研究。 人工神经元网络(Artificial Neural Network)简称神经网络,是基于日前人们对自然神经系统的认识而提出的一些神经系统的模型,一般是由一系列被称为神经元的具有某种简单计算功能的节点经过广泛连接构成的一定网络结构,而其网络连接的权值根据某种学习规则在外界输入的作用下不断调节,最后使网络具有某种期望的输出特性。神经网络的这种可以根据输入样本学习的功能使得它非常适合于用来解决模式识别问题,这也是神经网络目前最成功的应用领域之一。 2、神经网络进行模式识别的方法和步骤 神经网络模式识别的基本方法是,首先用己知样本训练神经网络,使之对不同类别的己知样本给出所希望的不同输出,然后用该网络识别未知的样本,根据各样本所对应的网络输出情况来划分未知样本的类别。神经网络进行模式识别的一般步骤如图2-1所示,分为如下几个部分: 预处理 样本获取常规处理特征变换神经网络识别 图 2-1 神经网络模式识别基本构成 1、样本获取 这一步骤主要是为了得到一定数量的用于训练和识别的样本。

模式识别在神经网络中的研究

摘要:基于视觉理论的神经网络模式识别理论的研究一直是非常活跃的学科,被认为是神经网络应用最成功的一个方面,它的发展与神经网络理论可以说是同步的。几乎所有现有的神经网络物理模型都在模式识别领域得到了成功的应用,神经网络理论取得进步会给模式识别理论的发展带来鼓舞;相反,模式识别理论的进步又会大大推动神经网络理论的长足发展。它们的关系是相互渗透的。 关键词:神经网络;模式识别 Abstract: The research of pattern recognition theories according to the neural network mode of sense of vision theories has been very active in academics, neural network has been thought one of the most successful applications , its development can been seen as the same step with the neural network theories.Almost all existing physics model of the neural network all identified realm to get success in the mode of application, neural network theories' progress will give the development of the pattern recognition theories much encourage;Contrary, the pattern recognition theories of progress again consumedly push neural network theories of substantial development.Their relations permeate mutually. Key word: neural network; pattern recognition

广义回归神经网络MATLAB源程序

GRN神经网络---广义回归神经网络,主要用于函数逼近。 x=-2::1 y=2*x.A6+3*x.A5-3*x.A3+x.A2+1 P=x(1:15:e nd) T=y(1:15:e nd) spread=[]; l_style=C,'bo--','ko-.','k*--','rA-'}; for i=1:le ngth(spread) net=n ewgr nn( P,T,spread(i)); a=sim (n et,P); plot(P,a,l_style{i}) hold on end plot(P,T,'o'); lege nd('spread二','spread二','spread二 ','spread二'

,'spread=','trai n data'); title('GRNN 神经网络 spread 探讨') load data; %载入数据并将数据分成训练和预测两类 p_trai n=p(1:10,:); p_test=p(11:13,:); t_trai n=t(1:1O,:); t_test=t(11:13,:); %将各个矩阵转置以便适应网络结构 p_trai n=p_trai n'; t_trai n=t_trai n'; p_test=p_test'; t_test=t_test'; %将数据归一化 [pn ,mi np,maxp,t n,mi nt,maxt]=pre mnm x(p_trai n,t_ trai n); p2n=tra mnm x(p_test,mi np,maxp); for sc=::1;

tic, net=n ewgr nn(pn ,t n,sc); sc toe Out=sim (n et,p2 n); a2=post mnm x(Out,mi nt,maxt); e=t_test-a2'; perf=mse(e); Y=sim (n et,p n); a3=post mnm x(Y,mi nt,maxt); ep=a3-t_tra in; perfp=mse(ep); hold on; figure(1); title( '网络的预测误差') plot(se,perf, 'g:*'); hold on; figure(2); title( '网络的逼近误差') plot(sc,perfp, 'r:*' ); end

7基于神经网络的模式识别实验要求

实验七基于神经网络的模式识别实验 一、实验目的 理解BP神经网络和离散Hopfield神经网络的结构和原理,掌握反向传播学习算法对神经元的训练过程,了解反向传播公式。通过构建BP网络和离散Hopfield 网络模式识别实例,熟悉前馈网络和反馈网络的原理及结构。 二、实验原理 BP学习算法是通过反向学习过程使误差最小,其算法过程从输出节点开始,反向地向第一隐含层(即最接近输入层的隐含层)传播由总误差引起的权值修正。BP网络不仅含有输入节点和输出节点,而且含有一层或多层隐(层)节点。输入信号先向前传递到隐节点,经过作用后,再把隐节点的输出信息传递到输出节点,最后给出输出结果。 离散Hopfield神经网络的联想记忆过程分为学习和联想两个阶段。在给定样本的条件下,按照Hebb学习规则调整连接权值,使得存储的样本成为网络的稳定状态,这就是学习阶段。联想是指在连接权值不变的情况下,输入部分不全或者受了干扰的信息,最终网络输出某个稳定状态。 三、实验条件 Matlab 7.X 的神经网络工具箱:在Matlab 7.X 的命令窗口输入nntool,然后在键盘上输入Enter键,即可打开神经网络工具箱。 四、实验内容 1.针对教材P243例8.1,设计一个BP网络结构模型(63-6-9),并以教材图8.5 为训练样本数据,图8.6为测试数据。 (1)运行train_data.m和test_data.m文件,然后从Matlab工作空间导入(Import)训练样本数据(inputdata10,outputdata10)和测试数据(testinputdata,testoutputdata),其次新建一个神经网络(New Network),选择参数如下表1,给出BP神经网络结构图。

matlab神经网络工具箱创建神经网络

为了看懂师兄的文章中使用的方法,研究了一下神经网络 昨天花了一天的时间查怎么写程序,但是费了半天劲,不能运行,百度知道里倒是有一个,可以运行的,先贴着做标本 % 生成训练样本集 clear all; clc; P=[110 0.807 240 0.2 15 1 18 2 1.5; 110 2.865 240 0.1 15 2 12 1 2; 110 2.59 240 0.1 12 4 24 1 1.5; 220 0.6 240 0.3 12 3 18 2 1; 220 3 240 0.3 25 3 21 1 1.5; 110 1.562 240 0.3 15 3 18 1 1.5; 110 0.547 240 0.3 15 1 9 2 1.5]; 0 1.318 300 0.1 15 2 18 1 2]; T=[54248 162787 168380 314797; 28614 63958 69637 82898; 86002 402710 644415 328084; 230802 445102 362823 335913; 60257 127892 76753 73541; 34615 93532 80762 110049; 56783 172907 164548 144040]; @907 117437 120368 130179]; m=max(max(P)); n=max(max(T)); P=P'/m; T=T'/n; %-------------------------------------------------------------------------% pr(1:9,1)=0; %输入矢量的取值范围矩阵 pr(1:9,2)=1; bpnet=newff(pr,[12 4],{'logsig', 'logsig'}, 'traingdx', 'learngdm'); %建立BP神经网络, 12个隐层神经元,4个输出神经元 %tranferFcn属性 'logsig' 隐层采用Sigmoid传输函数 %tranferFcn属性 'logsig' 输出层采用Sigmoid传输函数 %trainFcn属性 'traingdx' 自适应调整学习速率附加动量因子梯度下降反向传播算法训练函数 %learn属性 'learngdm' 附加动量因子的梯度下降学习函数 net.trainParam.epochs=1000;%允许最大训练步数2000步 net.trainParam.goal=0.001; %训练目标最小误差0.001 net.trainParam.show=10; %每间隔100步显示一次训练结果 net.trainParam.lr=0.05; %学习速率0.05

实验七:基于神经网络的模式识别实验

实验七:基于神经网络的模式识别实验 一、实验目的 理解BP神经网络和离散Hopfield神经网络的结构和原理,掌握反向传播学习算法对神经元的训练过程,了解反向传播公式。通过构建BP网络和离散Hopfield网络模式识别实例,熟悉前馈网络和反馈网络的原理及结构。 综合掌握模式识别的原理,了解识别过程的程序设计方法。 二、实验内容 熟悉模式识别的理论方法,用选择一种合适的识别方法,对图像中的字符(英文字母)进行识别,能够区分出不同的形态的26个字母。 在Matlab中,采用BP神经网络,对读取的数据进行训练,进而识别。 1. 程序设计 (1)程序各流程图 实验中主程序流程图如图4-1所示:

图4-1主程序流程图 其中图像预处理的流程如图4-2 所示: 图4-2图像预处理的流程神经网络训练的具体流程如图4-3所示:

图4-3 神经网络训练流程 (2)程序清单 %形成用户界面 clear all; %添加图形窗口 H=figure('Color',[0.85 0.85 0.85],... 'position',[400 300 500 400],... 'Name','基于BP神经网络的英文字母识别',... 'NumberTitle','off',... 'MenuBar','none'); %画坐标轴对象,显示原始图像 h0=axes('position',[0.1 0.6 0.3 0.3]); %添加图像打开按钮 h1=uicontrol(H,'Style','push',... 'Position',[40 100 80 60],... 'String','选择图片',... 'FontSize',10,... 'Call','op'); %画坐标轴对象,显示经过预处理之后的图像 h2=axes('position',[0.5 0.6 0.3 0.3]); %添加预处理按钮

神经网络的应用及其发展

神经网络的应用及其发展

神经网络的应用及其发展 来源:辽宁工程技术大学作者: 苗爱冬 [摘要] 该文介绍了神经网络的发展、优点及其应用和发展动向,着重论述了神经网络目前的几个研究热点,即神经网络与遗传算法、灰色系统、专家系统、模糊控制、小波分析的结合。 [关键词]遗传算法灰色系统专家系统模糊控制小波分析 一、前言 神经网络最早的研究20世纪40年代心理学家Mcculloch和数学家Pitts 合作提出的,他们提出的MP模型拉开了神经网络研究的序幕。神经网络的发展大致经过三个阶段:1947~1969年为初期,在这期间科学家们提出了许多神经元模型和学习规则,如MP模型、HEBB学习规则和感知器等;1970~1986年为过渡期,这个期间神经网络研究经过了一个低潮,继续发展。在此期间,科学家们做了大量的工作,如Hopfield教授对网络引入能量函数的概念,给出了网络的稳定性判据,提出了用于联想记忆和优化计算的途径。1984年,Hiton教授提出Boltzman机模型。1986年Kumelhart等人提出误差反向传播神经网络,简称BP网络。目前,BP网络已成为广泛使用的网络;1987年至今为发展期,在此期间,神经网络受到国际重视,各个国家都展开研究,形成神经网络发展的另一个高潮。神经网络具有以下优点: (1) 具有很强的鲁棒性和容错性,因为信息是分布贮于网络内的神经元中。 (2) 并行处理方法,使得计算快速。 (3) 自学习、自组织、自适应性,使得网络可以处理不确定或不知道的系统。 (4) 可以充分逼近任意复杂的非线性关系。 (5) 具有很强的信息综合能力,能同时处理定量和定性的信息,能很好地协调多种输入信息关系,适用于多信息融合和多媒体技术。 二、神经网络应用现状 神经网络以其独特的结构和处理信息的方法,在许多实际应用领域中取得了显著的成效,主要应用如下: (1) 图像处理。对图像进行边缘监测、图像分割、图像压缩和图像恢复。 (2) 信号处理。能分别对通讯、语音、心电和脑电信号进行处理分类;可用于海底声纳信号的检测与分类,在反潜、扫雷等方面得到应用。 (3) 模式识别。已成功应用于手写字符、汽车牌照、指纹和声音识别,还可用于目标的自动识别和定位、机器人传感器的图像识别以及地震信号的鉴别

人工神经网络

人工神经网络 系别:计算机工程系 班级: 1120543 班 学号: 13 号 姓名: 日期:2014年10月23日

人工神经网络 摘要:人工神经网络是一种应用类似于大脑神经突触联接的结构进行信息处理的数学模型。在工程与学术界也常直接简称为神经网络或类神经网络。神经网络是一种运算模型,由大量的节点(或称神经元)之间相互联接构成,由大量处理单元互联组成的非线性、自适应信息处理系统。它是在现代神经科学研究成果的基础上提出的,试图通过模拟大脑神经网络处理、记忆信息的方式进行信息处理。 关键词:神经元;神经网络;人工神经网络;智能; 引言 人工神经网络的构筑理念是受到生物(人或其他动物)神经网络功能的运作启发而产生的。人工神经网络通常是通过一个基于数学统计学类型的学习方法(Learning Method)得以优化,所以人工神经网络也是数学统计学方法的一种实际应用,通过统计学的标准数学方法我们能够得到大量的可以用函数来表达的局部结构空间,另一方面在人工智能学的人工感知领域,我们通过数学统计学的应用可以来做人工感知方面的决定问题(也就是说通过统计学的方法,人工神经网络能够类似人一样具有简单的决定能力和简单的判断能力),这种方法比起正式的逻辑学推理演算更具有优势。 一、人工神经网络的基本原理 1-1神经细胞以及人工神经元的组成 神经系统的基本构造单元是神经细胞,也称神经元。它和人体中其他细胞的关键区别在于具有产生、处理和传递信号的功能。每个神经元都包括三个主要部分:细胞体、树突和轴突。树突的作用是向四方收集由其他神经细胞传来的信息,轴突的功能是传出从细胞体送来的信息。每个神经细胞所产生和传递的基本信息是兴奋或抑制。在两个神经细胞之间的相互接触点称为突触。简单神经元网络及其简化结构如图2-2所示。 从信息的传递过程来看,一个神经细胞的树突,在突触处从其他神经细胞接受信号。这些信号可能是兴奋性的,也可能是抑制性的。所有树突接受到的信号都传到细胞体进行综合处理,如果在一个时间间隔内,某一细胞接受到的兴奋性信号量足够大,以致于使该细胞被激活,而产生一个脉冲信号。这个信号将沿着该细胞的轴突传送出去,并通过突触传给其他神经细胞.神经细胞通过突触的联接形成神经网络。

模式识别 神经网络识别MATLAB实现

模糊神经网络模式识别 function retstr = FnnTrain(dt,ld,tt,sp) retstr=-1; %%%% 输入参数赋值开始%%%%%%%%%%%%%%%%%%%%%%% % 方便调试程序用,程序调试时去掉这部分的注释 % dt=4; %学习阈值 % ld=0.05; %学习进度 % tt=10; %训练次数 % sp='data\sample.txt'; %一个点的监测数据 %%%% 输入参数赋值结束%%%%%%%%%%%%%%%%%%%%%%%% global recordDimention; global sampleNumber; global weightNumber; global distanceThread; global WW; global learningDegree; global epochsNumber; distanceThread=dt; learningDegree=ld; traintimes=tt; A=load(sp); [Arow Acol]=size(A); %样本个数 sampleNumber=Arow; recordDimention=Acol; disp(sampleNumber); WW=A(1,:); WW=[WW [1]]; weightNumber=1; epochsNumber=1; for jj=2:1:sampleNumber TrainNN2(A(jj,:)); end for jt=1:traintimes-1 for jt2=1:sampleNumber TrainNN2(A(jj,:)); end end % 将训练结果写入权值文件 dlmwrite('data\w.dat',WW,'\t'); % % 训练子函数

人工神经网络分类器

通信工程学院题目人工神经网络分类器 专业:自动化 学号:52110608 学生姓名:张继伟 指导教师姓名:刘富

日期:年月日 人工神经网络分类 摘要:80 年代重新兴起的人工神经网络已成为世界人工智能研究的热门课题之一。本文介绍了人工神经网络的一般结构及其算法, 介绍人工神经网络在模式识别方面的作用及用作模式识别的人工神经网络分类器。 人工神经网络简介: 人们对人工神经网络( A rt ifi ci al N e ur al N et 简作人N N , 也称神经网络) 的研究可追溯到40 年前。初期人们致力于建立较为详细的、仿生的( 模仿人的神经元) 神经网络的数学模型。50 年代至60 年代有人便试图建立结构上类于人脑的计算机。但由于当时集成电路、计算机及人工智能等方面技术的限制使得这种尝试未获成功, ’而且使这方面的工作几乎停顿了近20 年. 直到80 年代, 超大规格集成电路、人工智能、计算机技术及拓扑学算法的发展使得人工神经网络重新兴起并很快地蓬勃发展成了当今世界的一大热门课题. 尤其是人们希望人工神经网络能在语音和图象识别(s , ” c h a n d im a se eR co gn it on ) 方面达到完成人类的功能。使得人工神经网络在这方面有了不少应用成果。 1 98 7 年6 月在美国圣地亚哥召开的第一届国际神经网络年会( I c N N , nI entr iat o o al oC n fe r en ce on Ne ur ia N et w or k ) 重新揭开了人类向神经网络大规模进军的战幕, 据有关人士预料, 今后新一代计算机将是以神经网络为基础的, 具有高度并行处理能力, 具有自适应能力的新一代的计算机。从当前研究的热点看主要有下列几个方面: 一是各种神经网络模型的研究, 包括生物物理模型, 数学模型等。二是在数字机上进行模拟以探讨各类模型的特点、性能等。三是各种训练、学习规则的研究。四是神经网络在工作中的自适应能力的研究。五是硬件实现。国际上在这几方面的研究都尚属初级阶段, 尚有一些硬件实现和初步的应用成果。国内的研究则刚起步不久。本文介绍人工神经网络模型的一般结构及算法, 同时在和传统分类器( o as if er ) 比较的基础上介绍用于模式识别的人工神经网络分类器的结构和工作过程[1]。

第六章 神经网络在模式识别中的应用

第六章神经网络在模式识别中的应用 模式识别模拟的是人类一部分智能—识别、判断能力,而人类的智能活动都是在大脑的神经系统中完成的,如果我们能够模拟人类大脑的工作机理来实现识别系统,应该能够取得好的效果。人工神经网络的研究证实在这方面所进行的探索。 6.1 人工神经网络的基础知识 一、人工神经网络的发展历史 1943年,心理学家McCulloch和数学家Pitts提出了形式神经元的数学模型; 1949年,心理学家Hebb提出了神经元学习的准则; 20世纪50年代末,Rosenblatt提出了感知器模型,引起了神经元研究的广泛兴趣; 1969年,Minsky等人指出了感知器的局限性,神经网络的研究热潮下降; 1982年,Hopfield提出了一种神经网络的动力学模型,可以用于联想记忆和优化计算; 1986年,Rumelhart等人提出了多层感知器模型,克服了感知器模型的局限性,使得人工神经网络的研究再度受到重视。 二、生物神经元 一个典型的神经元(或称神经细胞)可以看作有三部分组成:细胞体,树突和轴突。 树突是神经元的生物信号输入端,与其它的神经元相连;轴突是神经元的信号输出端,连接到其它神经元的树突上;神经元有两种状态:兴奋和抑制,平时神经元都处于抑制状态,轴突没有输入,当神经元的树突输入信号大到一定程度,超过某个阈值时,神经元有抑制状态转为兴奋状态,同时轴突向其它神经元发出信号。 三、人工神经元

人工神经元是仿照生物神经元提出的,神经元可以有N 个输入:12,,,N x x x ,每个输入端与神经元之间有一定的联接权值:12,,,N w w w ,神经元总的输入为对每个输入的加权求和,同时减去阈值θ: 1 N i i i u w x θ== -∑ 神经元的输出y 是对u 的映射: ()1N i i i y f u f w x θ=?? ==- ??? ∑ f 称为输出函数,可以有很多形式。当f 为阈值函数时,神经元就可以看作是一个线 性分类器。 ()1, 00, x f x x >?=? ≤? 当取f 为Sigmoid 函数时,神经元完成的是连续的线性映射: ()11x f x e -=+ [0,1] ()2211x f x e -= -+ [-1,1] 一个神经元的结构可以简化为下图的形式: x 1x 2 x N 其中输入矢量为增广矢量,最后一维1N x =,用N w 代替阈值θ。

模式识别-神经网络综述

结课论文题目:神经网络综述 学院河北大学工商学院学科门类理科 专业网络工程学号2013483158 姓名苑磊 指导教师李凯,邢洪杰 2016年11月3 日

学号:2013483158 专业:13级网络工程1班姓名:苑磊成绩: 神经网络综述 一摘要 作为一门近年来活跃的交叉性边缘学科,神经网络已经广泛的应用于图像的分割和对象的识别、分类问题中。近些年来,针对神经网络的学术研究大量涌现,由于他看起来不需要使用者对数学模型尤很多的了解,其基本思想很快被各个领域所接受,而随着人工神经网络的发展,神经网络模式识别在模式识别领域中起着越来越重要的作用。其中多层感知器神经网络具有通用非线性判别函数逼近器的性质,因此它在模式识别问题中得到了广泛的应用。BP神经网络算法是在BP神经网络现有算法的基础上提出的,是通过任意选定一组权值,将给定的目标输出直接作为线性方程的代数和来建立线性方程组,解得待求权,不存在传统方法的局部极小及收敛速度慢的问题,且更易理解。尤其是对于非线性的模式识别问题,相对于传统方法,其具有更好的特点。本文介绍了神经网络的一些概况,基本模型,以及神经网络模式识别的特点及算法思想。 二:关键词 神经网络、模式识别、多层感知网络、BP神经网络算法 三:正文 1.引言 人类对于认知的探索由来已久。但由于科学技术发展水平所限,人们对人脑的认识主要停留在观察和猜测的基础之上,缺乏有关人脑内部及其工作原理的科学依据,因此进展缓慢。直到20世纪40年代,随着神经解刨学、神经生理学以及神经元的电生理过程等的研究取得突破性进展,人们对人脑的结构、组成及最基本工作单元有了越来越充分的认识,在此基本认识的基础上,以数学和物理方法以及信息处理的角度对人脑神经网络进行抽象,并建立简化的模型,称之为人工神经网络ANN(Artificial Neural Network),为叙述方便将人工神经网络直接称之为神经网络。 模式识别是一种基本的智能活动,对模式识别方法的研究是机器智能研究的一个重要方面。人们对机器智能的研究有主要两个出发点,一是通过试图对人类(和其他高度动物)的自然智能建立一定的数学模型,来帮助理解智能活动的奥秘;二是利用各种数学手段,以计算机为工具建立具备一定智能的机器。早在20世纪40~50年代,人们就开始尝试研究神经系统的数学模型。从20世纪80年代以来,人们开始更大量借用神经生物学的概念(至少是术语)来研究机器智能,诞生了一门新兴的学科——人工神经网络,为模式识别的方法体系注入了新鲜血液。采用不同的数学模型就得到不同的神经网络方法,其中最有影响力的模型应该是多层感知器(MLP)模型。他具有从训练数据中学习任意复杂的非线性映射的能力,也包括实现复杂的非线性映射的能力,也包括复杂的非线性分类判别函数。从模式识别角度,多层感知器方法可以看作是一种通用的非线性分类器设计方法。目前,神经网络已经广泛的应用于图像的分割和对象的识别、分类问题中。根据神经网络的结构特点,人们通常把神经网络模型分成三种类型:前馈型网络(freedford network)、反馈型网络(feedback network)和竞争学习网络(competitive learning network)。

RBF神经网络模式识别

动态RBF神经网络模式识别 12721211,秦自杰 2013-03-01 摘要:本文讨论了神经网络模式识别的特点,研究了一种RBF神经网络在模式识别中的训练方法。对RBF神经网络的训练采用一种区域映射的方式,并由此使用区域映射误差函数,同时结合RAN新性条件进行网络节点的动态调整。不但加快了网络的训练过程,而且获得较小的网络结构,提高了网络的泛化性能和正确率。 关键词:径向基函数;分类;区域映射;动态;模式识别 A Dynamic RBF Neural Network for Pattern Recognition Abstract:The characteristics of neural network for pattern recognition are discussed in this paper. The problem of training RBF neural network for pattern recognition is considered. In this paper, a new training algorithm based on the regional mapping and novelty condition of RAN is proposed. The result show the effectiveness of the proposed approach in RBF network training for pattern recognition, mainly in shortening the learning time, simplifying the structure of network and improving the classification accuracy. Keywords: RBF; classification; regional mapping; dynamic; Pattern Recognition 1 引言 模式识别的任务是把模式正确地从特征空间映射到类空间,或者说是在特征空间中实现类的划分。目前进行模式识别比较主流的技术方法有,统计模式识别,句法模式识别,模糊模式识别,逻辑推理模式识别和神经网络模式识别等。针对不同的对象和目的,可以采用不同的模式识别理论、方法。 在数据样本分类领域,由于所要处理问题中模式样本越来越复杂,对分类器的设计提出了更高的要求,而神经网络不但有并行和容错等特点,还具有自适应能力,不但能自适应地学习,有的网络还能自适应的调整网络结构。在模式识别领域已经表现出巨大的优势和潜力[8、9]。神经网络模式识别已经发展成为模式识别领域的一种重要方法,发挥着传统模式识别方法不可替代的作用。使用神经网络进行模式识别的方法就是根据样本的特征向量进行匹配,建立网络模型,将其分类到正确的样本空间内。神经网络可以实现的功能为特征提取和统计分类两个部分,其中RBF神经网络因为其良好的分类性能得到越来越多的应用。 本文针对RBF网络在模式识别中的特性,通过改进的误差函数使网络具有区域映射的功能,同时在网络训练初始阶段使用输入输出样本聚类方法决定初始隐层节点,并通过RAN网络[12,13]“新性”条件添加和调整网络参数,建立一个精简的网络结构来完成模式识别的功能。 2 神经网络模式识别的特点 ⑴神经网络具有自组织和自学习能力,能够直接输入数据并进行学习。它神经网络对所要处理的对象在样本空间的分布状态无需做任何假设,而是直接从数据中学习样本之间的关系,因而还能

模式识别BP神经网络学习算法

BP神经网络的学习算法 四川成都 摘要:本文主要探讨的人工神经网络中的BP网络,它是前馈神经网络中的核心部分,也是最精华的部分。本文详细介绍了BP网络学习算法的C语言实现过程,同时也对其局限性进行了探讨。 关键词:人工神经网络,BP学习算法,完备性 神经网络的出现不仅对于人工智能,而且对于心理学、语言、神经生理学、哲学都具有重要意义。目前,神经网络模型有上百种,其中,误差反向传播神经网络(Error Back Propagation NeuralNetwork),简称BP神经网络,应用最为广泛和成功,它具有强大的非线性映射能力,在处理非线性复杂问题方面具有特殊的优势,在工程、金融、医学、语言学等众多领域都有重要应用,众多认知科学都以它为模型进行探讨和分析。其联结主义工作范式不仅推动了人工智能研究的范式转换,而且具有重要的认知意义,为认知心理学、语言学等学科联结主义范式研究。带来了现实的可操作模型。 一.人工神经网络的原理 神经元是大脑中的细胞,它的主要功能是收集,处理和分发电信号。大脑的信息处理能力被认为主要是从这种神经元构成的网络中涌现出来的。由于这个原因,一些早期的人工智能工作致力于创造人工神经网络。(这个领域的其它名称包括联结主义,并行分布处理,以及神经计算。)一个最简单的神经元数学模型表现为:当输入的线性组合超过一定阈限时,它会“激发”。从1943年开始,人们开发了许多更精细的和更实际的模型,用于模拟人脑中的神经元和更大的系统,直到现在的计算机神经学领域。另一方面,人工智能及统计学的学者开始对神经元网络中更抽象的属性感兴趣,比如它们执行分布式计算的能力,对有噪声输入的容忍能力以及学习的能力等。尽管我们现在了解到其它种类的系统——包括贝叶斯网络——也有这样的特性,但神经元网络仍然是学习系统中一个最流行和有效的形式,而且它们自身也值得研究。 1. 人工神经网络的组成 人工神经网络模型如下图所示,主要有三个基本要素组成:①一组连接,对应于生物神经元的突触,其连接强度由各连接上的权值表示,权值为正表示激活,为负表示抑制。 ②一个求和单元。用于求取各输入信号的加权和(线性组合)。③—个非线性激励函数。非线性映射作用并将神经元输出幅度限制在一定范围之内(一般限制在【0,1】或【-1,1】之间).此外还有一个阈值b k。 2.激活函数 激励函数一般有非线性特性。常用的激发函数有(a)阈值型,(b)分段线性型,(c)Sigmoid函数型,(d)双曲正切型,如下图所示:

相关主题
相关文档 最新文档