基于生物机制脉冲神经网络的特征提取
- 格式:doc
- 大小:450.00 KB
- 文档页数:10
实验七基于神经网络的模式识别实验一、实验目的利用神经网络实现模式识别,并验证其性能。
掌握基于神经网络的模式识别方法。
二、实验原理1.神经网络神经网络是一种模仿生物神经系统的计算模型,它由大量的神经元节点相互连接而成。
在模式识别中,我们一般采用多层前向神经网络进行模式的训练和识别。
2.神经网络的训练过程神经网络的训练过程可以分为两步:前向传播和反向传播。
前向传播是指将输入样本通过网络的各个层传递到输出层,并计算输出结果。
反向传播是指根据输出结果和目标结果之间的误差,将误差反向传播到网络的各个层,并根据误差调整网络中的权值。
3.模式识别对于模式识别问题,我们首先需要将输入模式转化为特征向量,然后通过神经网络来训练这些特征向量,并将其与已知类别的模式进行比较,从而进行模式的识别。
三、实验步骤1.数据准备选择适当的模式识别数据集,例如手写数字识别的MNIST数据集,将其分为训练集和测试集。
2.特征提取对于每个输入模式,我们需要将其转化为一个特征向量。
可以使用各种特征提取方法,例如像素值,轮廓等。
3.神经网络设计设计合适的神经网络结构,包括输入层、隐藏层和输出层,并确定各层的神经元数目。
4.神经网络训练使用训练集对神经网络进行训练,包括前向传播和反向传播过程。
可以使用各种优化算法,例如梯度下降法。
5.模式识别使用测试集对训练好的神经网络进行测试和验证,计算识别的准确率和性能指标。
6.性能评估根据得到的结果,评估神经网络的性能,并分析可能的改进方法。
四、实验结果通过实验我们可以得到神经网络模式识别的准确率和性能指标,例如精确度、召回率和F1-score等。
五、实验总结在本次实验中,我们利用神经网络实现了模式识别,并验证了其性能。
通过实验,我们可以掌握基于神经网络的模式识别方法,了解神经网络的训练和识别过程,以及模式识别中的特征提取方法。
实验结果表明,神经网络在模式识别问题中具有较好的性能,并且可以根据需要进行改进和优化。
生物医学工程中的图像处理技术方法总结生物医学工程是一门综合学科,通过应用工程技术和生物医学的原理,致力于发展用于诊断、监测和治疗的医疗设备和技术。
其中,图像处理技术在生物医学工程中扮演着重要的角色。
本文将对生物医学工程中常用的图像处理技术方法进行总结。
1. 图像预处理图像预处理是指在进行后续处理之前,对原始图像进行降噪、增强和几何校正等操作。
其中,降噪是常用的预处理步骤,包括中值滤波、高斯滤波和小波去噪等方法。
增强可以通过直方图均衡化、对比度增强和锐化等技术来改善图像的质量。
几何校正主要涉及到图像的旋转、缩放和校正等操作,用于纠正图像中的畸变。
2. 图像分割图像分割是将图像划分为具有相似特征的区域的过程。
在生物医学工程中,图像分割常用于提取感兴趣的区域,如病灶、组织器官等。
传统的图像分割方法包括阈值分割、边缘检测和区域生长等。
近年来,基于机器学习和深度学习的图像分割方法也得到了广泛应用,如基于像素级分类的卷积神经网络(CNN)和全卷积网络(FCN)等。
3. 特征提取特征提取是从图像中提取与目标有关的信息的过程。
在生物医学工程中,特征提取可用于识别病理特征、分析组织结构等。
传统的特征提取方法包括形态学处理、纹理特征提取和形状描述等。
近年来,基于深度学习的特征提取方法也取得了重大突破,如卷积神经网络的卷积层提取图像特征,并通过全连接层进行分类或回归。
4. 图像配准图像配准是将多幅图像根据一个参考图像进行对齐的过程。
在生物医学工程中,图像配准可用于融合多模态图像、纠正运动伪影等。
常用的图像配准方法包括基于特征的配准、基于相似度度量的配准和基于变换模型的配准等。
其中,基于特征的配准方法利用特征点或特征描述子进行匹配和对齐;基于相似度度量的配准方法通过最小化图像间的差异度量来实现对齐;基于变换模型的配准方法通过拟合变换模型实现对齐。
5. 目标检测与识别目标检测与识别是在图像中寻找和识别特定目标的过程。
在生物医学工程中,目标检测与识别广泛应用于医学影像分析、肿瘤检测、细胞分析等领域。
生物医学信号处理中的特征提取方法研究近年来,随着科技的不断发展,生物医学领域中的信号处理方法也越来越受到关注。
信号处理是一种运用数字信号处理技术对生物医学实验数据进行分析和处理的方法,并通过提取信号的特征来获取重要的生物信息,以帮助医学诊断和治疗。
特征提取是信号处理的一个重要步骤,它可以将原始信号转化为有意义的特征向量,以便后续分析和应用。
一、特征提取的定义和意义特征提取是一种从信号中提取有用信息的方法,它可以帮助我们理解事物的本质。
对于生物医学信号处理来说,特征提取是非常关键的一步,因为它可以帮助我们从原始数据中提取出与特定生理状态关联的特征,如心率、血压等,从而识别和诊断疾病。
此外,特征提取还可以帮助我们分析和研究物理过程、生物化学反应等各种生物学事件。
二、特征提取的方法在生物医学信号处理领域中,特征提取方法主要有传统的时域特征提取和现代的频域特征提取两种方法。
1. 时域特征提取时域特征提取是指提取信号的时间域特征,即在一定时间范围内分析信号的变化规律。
这种方法简单易行,可读性强,易于应用。
时域特征包括多种测量指标:均值、方差、标准差、极差、峰值等。
这些指标可以用于计算某种生理特征,如心率、呼吸率、体温等,也可以用于疾病诊断和治疗。
2. 频域特征提取频域特征提取是指将信号从时间域转换为频域,以便于对其频率分量进行分析和处理。
在生物医学信号处理中,经常使用快速傅里叶变换(FFT)将时域信号转换为频域信号。
然后,通过计算频域信号的特征,如功率谱密度、频谱峰值等,可以提取有关信号的信息,如心率等。
除了传统的时域和频域特征提取方法,还有一些新的特征提取方法正在被广泛研究和应用。
3. 小波变换小波变换是一种多分辨率分析方法,可以将信号分解为多个尺度的频率分量。
这个方法有很多优点,如分辨率高、能量局部化等,可以有效地分析信号在时间和频率域的复杂变化。
4. 奇异值分解奇异值分解(SVD)是一种线性代数方法,可以将信号分解为较小的独立分量。
基于机器视觉的目标检测与特征提取方法目标检测与特征提取是机器视觉领域的重要研究方向之一。
目标检测主要是通过分析图像或视频数据来识别并定位特定的对象或物体。
特征提取则是从图像或视频数据中提取出与目标有关的特征,以用于目标分类、识别和跟踪等任务。
本文将介绍一些常用的基于机器视觉的目标检测与特征提取方法。
在目标检测中,最早的方法之一是基于哈尔特征的方法。
该方法通过计算图像中的各种形状、边缘和纹理特征来检测目标。
然后使用AdaBoost算法对这些特征进行组合和选择,以实现目标检测。
该方法的优点是计算速度快,但对于复杂的场景和目标不够准确。
另一种常用的目标检测方法是基于神经网络的方法。
神经网络可以通过学习大量的训练数据,自动提取出图像中的特征,并实现目标检测。
其中,深度学习方法如卷积神经网络(CNN)在目标检测中取得了很大的突破。
通过多层卷积和池化操作,CNN可以有效地提取出图像中的局部和全局特征,并用于目标的分类和定位。
此外,还有一些基于CNN的改进算法,如Fast R-CNN、Faster R-CNN和YOLO等,它们通过引入区域建议网络(RPN)和多尺度特征图等技术,提高了目标检测的速度和准确性。
在特征提取方面,除了使用神经网络之外,传统的计算机视觉方法也有很多值得探索的特征。
例如,SIFT(尺度不变特征变换)是一种基于局部特征的方法,它通过检测和描述图像中的关键点以及这些关键点的方向和尺度信息,来实现目标特征的提取和匹配。
SURF(加速稳健特征)是SIFT的改进算法,它使用快速滤波器和图像金字塔等技术来加速特征检测和匹配。
此外,还有一些基于颜色、纹理、形状和运动等特征的方法,可以用于目标的特征提取。
总结起来,机器视觉的目标检测与特征提取方法涵盖了多种技术,包括基于哈尔特征的方法、基于神经网络的方法以及传统的计算机视觉方法。
这些方法各有优势和局限性,选择合适的方法应根据具体的应用场景和需求来决定。
随着深度学习和计算机硬件的不断进步,相信目标检测与特征提取方法将会更加准确、高效和稳定,为我们的生活带来更多便利和创新。
特征提取的方法有哪些特征提取是指从原始数据中提取出对于问题解决有用的信息,通常用于机器学习、模式识别和信号处理等领域。
在实际应用中,特征提取的质量往往直接影响了最终模型的性能和泛化能力。
因此,选择合适的特征提取方法至关重要。
本文将介绍一些常见的特征提取方法,包括传统的统计特征提取、基于变换的特征提取和基于深度学习的特征提取。
传统的统计特征提取是最常见的特征提取方法之一。
它包括对原始数据进行统计分析,提取出数据的均值、方差、偏度、峰度等统计量作为特征。
这些统计特征在处理结构化数据和时间序列数据时非常有效,例如在医学图像分析和金融时间序列预测中得到了广泛的应用。
然而,传统的统计特征提取往往忽略了数据之间的关联性和非线性特征,因此在处理高维、复杂数据时效果有限。
基于变换的特征提取方法则通过对原始数据进行变换,将数据映射到一个新的特征空间中。
常见的变换包括主成分分析(PCA)、线性判别分析(LDA)和小波变换等。
这些方法能够提取出数据的主要特征,减少数据的维度,并且保留了数据之间的相关性。
在图像处理、语音识别和生物信息学中,基于变换的特征提取方法取得了很好的效果,成为了处理高维数据的重要手段。
近年来,随着深度学习的发展,基于深度学习的特征提取方法逐渐成为了热门话题。
深度学习模型能够自动学习数据的抽象特征表示,无需人工设计特征提取器,因此在图像识别、自然语言处理和推荐系统等领域取得了巨大成功。
常见的深度学习特征提取方法包括卷积神经网络(CNN)、循环神经网络(RNN)和自编码器等。
这些方法能够学习到数据的高级特征表示,提高了模型的泛化能力和鲁棒性。
综上所述,特征提取是机器学习和模式识别中的重要环节,选择合适的特征提取方法能够提高模型的性能和泛化能力。
传统的统计特征提取、基于变换的特征提取和基于深度学习的特征提取是目前常用的几种方法,它们在不同领域和场景中发挥着重要作用。
在实际应用中,需要根据数据的特点和问题的需求选择合适的特征提取方法,以达到最佳的效果。
图像识别中的特征提取方法综述图像识别是计算机视觉领域中的重要研究方向,它涉及许多应用领域,如人脸识别、目标检测和场景理解等。
在图像识别中,特征提取是至关重要的步骤之一,它通过从图像中提取出具有代表性的特征来帮助计算机理解图像。
本文将综述图像识别中常用的特征提取方法,并对它们的原理和应用进行介绍。
一、基于点特征的提取方法1. SIFT(尺度不变特征变换):SIFT是一种局部特征描述算法,它通过检测图像中的关键点,并计算这些关键点周围区域的局部特征向量。
SIFT具有尺度不变性和旋转不变性,适用于各种尺度和旋转变换的图像匹配任务。
2. SURF(加速稳健特征):SURF是一种基于SIFT的改进算法,它借鉴了SIFT的思想并进行了优化,提高了特征提取的速度和鲁棒性。
SURF通过计算图像中的快速Hessian矩阵来检测关键点,并通过计算Haar小波响应来描述关键点的局部特征。
二、基于区域特征的提取方法1. HOG(方向梯度直方图):HOG是一种用于目标检测的特征描述算法,它通过计算图像中的梯度直方图来描述图像的局部特征。
HOG通过将图像划分为小的区域块,并计算每个块内像素的梯度方向直方图来表示图像的特征。
2. LBP(局部二值模式):LBP是一种用于纹理识别的特征描述算法,它通过将图像中的像素值与其邻域像素值进行比较,并构造局部二值模式来表示图像的纹理特征。
LBP具有旋转不变性和光照不变性,适用于纹理分类和人脸识别等任务。
三、基于深度学习的特征提取方法1. CNN(卷积神经网络):CNN是一种基于深度学习的特征提取方法,它模拟了生物视觉系统中的神经元连接模式,能够自动学习图像中的特征表示。
CNN通过堆叠多个卷积层、池化层和全连接层来提取图像的特征,并用于图像分类、目标检测和物体分割等任务。
2. GAN(生成对抗网络):GAN是一种基于生成模型的特征提取方法,它由生成器和判别器组成,通过对抗训练的方式来学习图像的特征表示。
基于脉冲神经网络的运动想象脑机接口分类研究摘要脑机接口(Brain-Computer Interface, BCI)是一种直接将大脑信号转换成计算机指令的技术,通过运动想象等神经活动,使身体受限人群得以与外界进行交流与操作。
本文采用基于脉冲神经网络(Spiking Neural Network, SNN)的方法对运动想象信号进行分类研究。
实验采用32通道脑电信号采集系统,针对三个运动想象任务(左右手握拳、左右脚抬踩)进行试验,共计36名被试参与。
经过特征提取和分类器训练,得到的分类结果表明,采用SNN方法对运动想象信号进行分类,可以较好地实现分类任务,同时较常用的传统分类方法表现更优。
本文的研究结果为BCI技术在康复医学领域中的应用提供了新思路和方法,有望为康复医学领域的进一步发展提供更好的服务。
关键词:脑机接口;运动想象;脉冲神经网络;分类器。
正文1 引言脑机接口技术作为人机交互技术的重要分支,已经广泛应用于康复医学、机器人控制、虚拟现实等领域。
其中,应用最为广泛的是基于运动想象的BCI系统。
运动想象是指通过大脑皮层神经元的放电活动模拟人类进行肌肉运动的场景,但是并没有实际运动的过程,不需要任何外在的物理动作。
相对于其他的脑机接口方式,运动想象BCI不需要机械装置与人的肢体连接,因此可以有效地避免使用者的肢体运动对信号的干扰。
然而,运动想象信号的提取和分类是BCI技术的关键问题之一。
传统的基于向量机(Support Vector Machine, SVM)和人工神经网络(Artificial Neural Network, ANN)的分类方法,虽然精度比较高,但是计算复杂、耗时、占用存储空间大,限制了BCI应用的推广。
因此,如何使用更有效的算法分类器,成为解决运动想象BCI技术瓶颈的一个重要问题。
近年来,脉冲神经网络(Spiking Neural Network, SNN)方法引起了学术界的广泛关注。
基于神经网络的图像特征提取算法研究随着人工智能技术的逐渐崛起,图像处理作为其中的一个重要应用领域,也经历了数十年的发展和演变。
早期的图像处理算法主要基于传统的计算机视觉技术,如像素级图像细节处理、模板匹配等。
这些算法虽然在一定程度上可以解决一些图像处理的问题,但是由于其局限性和受限的特性,很难应对一些更加轻松和复杂的图像处理任务。
而神经网络技术的发展,则是为图像处理技术提供了一些全新的思路和难解决的难题。
基于神经网络实现的图像特征提取算法,则是图像处理技术中最关键的一环。
在深度学习,特别是卷积神经网络的发展过程中,基于神经网络的图像特征提取方法成为了一个非常热门的研究方向,被广泛应用于人脸识别、物体识别、图像分类、图像检测等领域。
神经网络的图像特征提取方法基本上可以被分为两类:全连接层和卷积层。
全连接层是神经网络结构的组成部分之一,其主要作用是将前面所有层的信息汇总在一起,生成最后的输出结果。
全连接层的优点是计算快速,但在处理图像数据时,其局限性也比较显著。
主要表现在对卷积等局部信息处理能力上相对较弱,在提取图像特征等任务时难以胜任。
因此,在图像处理领域,卷积层被广泛应用于图像特征提取。
卷积神经网络是一种前馈神经网络。
其由卷积层、池化层、全连接层等模块组成,是图像处理领域中应用最广泛的神经网络算法之一。
卷积层在处理图像问题时,可以抓住图像中的局部重要特征,避免了全连接层中的严格位置对齐的限制,可以更加灵活地挖掘出图像中的特征信息。
卷积层通过学习权重矩阵,使得网络能够自动进行特征提取和缩放,从而实现对图像的非线性变换和数据升维等操作。
使用卷积神经网络进行图像特征提取,可以大大提高图像处理算法的效率和准确性。
基于卷积神经网络的图像特征提取可以有两种实现方式:卷积神经网络的特征提取和迁移学习。
前者采用在神经网络中由特定层生成的特征向量作为特征提取的结果,而后者则是基于预训练模型,在新的数据集上进行微调。
基于神经网络的时间序列特征提取方法研究一、引言时间序列数据是在各个领域中普遍存在的一类数据类型。
在金融、气象、交通等领域中,时间序列数据的分析和预测具有重要的应用价值。
然而,时间序列数据的高维度和复杂性使得其特征提取变得困难。
为了克服这一难题,研究者们提出了许多基于神经网络的时间序列特征提取方法。
本文将综述近年来在这一领域的研究进展,并探讨其应用前景。
二、基于神经网络的时间序列特征提取方法1. 循环神经网络(Recurrent Neural Networks,RNN)循环神经网络是一种能够处理序列数据的神经网络模型。
通过在网络中引入循环连接,RNN能够在处理每一个时间步时保留之前时间步的信息。
这使得RNN在时间序列数据的建模和特征提取中具有优势。
例如,长短期记忆网络(Long Short-Term Memory,LSTM)和门控循环单元(Gated Recurrent Unit,GRU)是RNN的常见变种,通过引入门控机制解决了梯度消失和梯度爆炸的问题。
2. 卷积神经网络(Convolutional Neural Networks,CNN)卷积神经网络是一种广泛应用于图像处理的神经网络结构,近年来也被引入到时间序列特征提取中。
CNN通过卷积层和池化层的组合来提取时间序列数据的局部特征和高级抽象特征。
同时,卷积神经网络可以并行处理大规模的时间序列数据,使得模型训练更加高效。
3. 自编码器(Autoencoders)自编码器是一种无监督学习的神经网络模型,在时间序列特征提取中也有广泛应用。
自编码器通过学习原始数据的低维表示来实现特征的提取。
Encoder部分将原始数据映射到低维空间,并通过Decoder部分重构原始数据。
通过调整自编码器的结构和训练方式,可以得到有效的时间序列特征。
4. 迁移学习(Transfer Learning)迁移学习是一种将已学习的知识应用于新任务中的方法。
在时间序列数据的特征提取中,可以利用已经在大规模数据上预训练的模型,如自然语言处理中的Word2Vec,将其迁移到时间序列数据上。
神经网络提取特征方法及图像处理运用摘要:神经网络是一种模拟人类大脑功能的计算模型,可以通过学习和训练来预测和处理输入数据。
神经网络在图像处理中具有广泛的应用,特别是在特征提取方面。
本文将介绍神经网络提取特征的不同方法,并探讨其在图像处理中的运用。
1. 引言随着计算机技术的不断发展,图像处理成为了一个热门的研究领域。
图像处理的目的是通过对图像进行分析和处理,从中提取出有用的信息。
特征提取是图像处理的核心部分,它可以帮助我们理解图像内容并进行更进一步的分析和处理。
神经网络作为一种强大的工具,被广泛应用于图像处理中的特征提取。
2. 神经网络提取特征的方法神经网络提取特征的方法多种多样,下面将介绍其中的几种常见方法。
2.1 卷积神经网络(CNN)卷积神经网络是一种专门用于图像识别和图像处理的神经网络。
它模拟了生物大脑中视觉皮层的结构,并且通过卷积层和池化层的组合来自动提取图像特征。
卷积层使用一系列滤波器来对图像进行卷积操作,以提取图像中的边缘和纹理信息。
卷积层的输出经过池化层进行下采样,减少图像的大小和计算量。
通过多个卷积层和池化层的组合,卷积神经网络可以提取出更高层次的图像特征。
2.2 递归神经网络(RNN)递归神经网络是一种能够处理序列数据的神经网络。
它通过循环连接在时间维度上进行信息传递,以便处理具有时序关系的数据。
在图像处理中,递归神经网络可以将图像的像素点视为一种序列数据,并通过学习和训练来提取图像的时间和空间特征。
递归神经网络特别适用于处理包含动态图像或时间序列的图像数据。
2.3 自编码器(Autoencoder)自编码器是一种无监督学习的神经网络。
它的目标是将输入数据进行压缩并重建,以便学习数据的有效编码和解码方式。
自编码器通过编码器将输入数据转换为潜在空间的表示,并通过解码器将潜在空间表示转换为输出数据。
在图像处理中,自编码器可以用于图像的降噪、特征提取和生成模型等方面。
特别是在无标签数据集上,自编码器可以通过自我学习的方式提取图像中的有用特征。
基于生物机制脉冲神经网络的特征提取作者:张振敏 林秀芳范群贞来源:《计算技术与自动化》2016年第01期摘要:脉冲神经元可以被用于处理生物刺激并且可以解释大脑复杂的智能行为。
脉冲神经网络以非常逼近生物的神经元模型作为处理单元,可以直接用来仿真脑科学中发现的神经网络计算模型,输出的脉冲信号还可与生物神经系统对接。
而小波变换是一个非常有利的时频分析工具,它可以有效的压缩图像并且提取图像的特征。
本文中将提出一种与人类视觉系统的开/关神经元阵列相结合的脉冲神经网络,来实现针对视觉图像的快速小波变换。
仿真结果显示,这个脉冲神经网络可以很好地保留视觉图像的关键特征。
关键词:快速小波变换;脉冲神经元网络;图像压缩;特征提取中图分类号:TP183文献标识码:A1引言众所周知,拥有超级智能的大脑通过一个非常庞大且复杂的神经网络来处理信息。
随着脑神经科学研究进展,发现了许多大脑处理感知信息的神经网络计算模型。
Hodgkin-Huxley脉冲神经元模型于1952年由Hodgkin和Huxley提出。
以此神经元模型为基础,之后的科研工作者提出了一套更加靠近生物神经网络的脉冲神经网络理论,这被称为第三代人工神经网络。
脉冲神经网络以非常逼近生物的神经元模型作为处理单元,可以直接用来仿真脑科学中发现的神经网络计算模型,输出的脉冲信号还可与生物神经系统对接。
因此,可将脑神经科学与人工智能科学有机地结合起来,这对于人工智能系统和计算机视觉的研究有重要意义。
近年来基于这种模型的神经网络的研究层出不穷[1-3]。
但是这种模型一旦被应用于大型网络仍将会面临非常复杂的计算量[4]。
因此,针对脉冲神经元网络(spikingneuronnetwork,SNN)中的各个单个神经元,我们将使用简化后的基于电导率的累积放电模型进行计算[5]。
在人类视觉系统中,从初级视觉皮层中的细胞到视网膜和外侧膝状体核中的简单细胞都有着不同的感受野[6-8]。
视觉图像在这些神经元中以脉冲训练的形式通过ON或OFF通道进行传输[9-10]。
假设每一个神经元都接收来自开神经元的激励型突触和关神经元的抑制型突触的脉冲训练。
不同的开/关通路以一种生物方式被用于构建特定的网络[11]。
在神经网络的研究方面,国内学者也有着出色的进展。
如蔺想红等人在脉冲神经网络的理论研究方面进行了细致的研究[12-13],而在其应用方面也有着可喜的进展,具体可参考文献[14-15]。
另一方面,基于小波变换能够有效的提取图像的关键特征[16-18],在本文中,一个特定的基于小波变换算法的脉冲神经元网络将被提出并用于模拟人类视觉系统中的脉冲神经元的行为,同时此网络可以提取出视觉图像的主要特征信息。
2快速小波变换算法Mallat于1987年提出了快速小波变换(fastwavelettransform,FWT)[19-20]。
快速小波变换是一种实现离散小波变换的高效计算方法。
二维快速小波变换的计算流程图如图1所示。
如图1所示,f(m,n)为数字输入信号,h0(m,n)是低通滤波器的冲激响应,h1(m,n)是高通滤波器的冲激响应,h0(m,n)和h1(m,n)共同组成了分析滤波器组。
2表示间隔性下采样。
当输入信号连续通过各个滤波器并分别作下采样操作后,最终得到的四个信号即为小波变换的近似系数wA,水平分量wH,垂直分量wV和对角分量wD。
3构建基于快速小波变换算法的脉冲神经元网络基于Mallat算法和视觉系统开/关通道机制[11,21,22],本文建立了一个累积放电的脉冲神经元模型,记为SNNFWT模型,如图2所示。
计算技术与自动化2016年3月第35卷第1期张振敏等:基于生物机制脉冲神经网络的特征提取其中,输入神经元阵列的维度是M×N。
图像的每一个像素相当于一个信号接收器。
假设Gm,n(t)表示一幅图像像素的灰度级,每一个光接收器都将像素亮度转化为突触电流Im,n (t)[23-25]。
那么电流Im,n(t)和神经元的膜电压vm,n)(t)将满足以下公式:dlm,n(t)dt=-1τIm,n(t)+αGx,y(t)(1)cdvm,n(t)dt=gl(El-vm,n(t))+Im,n(t)+I0(2)其中m=1,…,M;n=1,…,N;a,τ是常数,gl是膜电导,El是反转电势,c表示膜电容,I0是背景噪声。
如果膜电压超过了门限值vth,那么神经元就发出一个脉冲。
令Sm,n (t)表示这个神经元所产生的脉冲训练:Sm,n(t)=1ifneuron(m,n)firesattimet.0ifneuron(m,n)doesnotfireattimet.(3)中间神经元阵列第一层由三个维度是M×(N+1)的神经元阵列构成,如图2所示。
前两个是开神经元阵列,记为1ON1(p,q)和1ON2(p,q),第三个是关神经元阵列,记为1OFF(p,q),其中p=1,…,M;q=1,…,N+1。
快速小波变换的卷积运算就相当于不同神经元阵列的累加。
假设脉冲训练通过激励型突触W1ON1(p,q),W1ON2(p,q)和抑制型突触W1OFF(p,q)被传送至开/关神经元阵列。
突触强度分布设置为:W1ON1(p,k)=αONf(p,q),W1OFFi(p,q)=αOFFf(p,q)(4)其中i={1,2},1≤p≤M,1≤q≤N。
如果i=1,k=q,那么k=q+1。
aON=1/√2,aOFF=-1/2。
突触电流I1ON1(p,q)(t)和I1OFF(p,q)(t)由电流约束方程计算得到:dI1σ(p,q)(t)dt=-1τI1σ(p,q)(t)+∑Mp=1∑N+1q=1W1σ(p,q)β1Sσ(p,q)(t)(5)其中σ∈{ON,OFF},Sσ(p,q)(t)表示脉冲训练。
开/关阵列的神经元电压则由电压约束方程得到。
中间神经元阵列第二层由两个维度是M×(N+1)的神经元阵列2ON(p,q)和2OFF (p,q)构成。
每一个神经元都接收来自激励型突触W2ON(p,q)和抑制型突触W2OFF (p,q)的脉冲训练,设置方式如下:W2ON(p,q)=W1ON2(p,2)-W1OFF(p,q),ifW1ON2(p,q)-W1OFF(p,q)>00ifW1ON2(p,q)-W1OFF(p,q)≤0(6)W2ON(p,q)=-(W1ON2(p,2)-W1OFF(p,q)ifW1ON2(p,q)-W1OFF(p,q)0ifW1ON2(p,q)-W1OFF(p,q)≥0(7)其中1≤p≤M,1≤q≤N+1。
开/关阵列中的突触电流和神经元电压仍旧由电流和电压约束方程计算得到。
中间神经元阵列第三层同样由两个维度为M×(N+1)的神经元组成。
在这些阵列中神经元被记为3CN1*(p,q)和3CN2*(p,q)。
其中的突触强度分布可以通过下述方程计算得到:W3CN1*(p,q)=W1ON1(p,q)+W1ON2(p,q)(8)W3CN2*(p,q)=W2ON(p,q)+W2OFF(p,q)(9)突触电流的计算方程为:dl3CN1*(p,q)(t)dt=-1τI3CN1*(p,q)(t)+∑Mp=1∑N+1q=1W1ON1(p,q)β2Sp,q(t)-∑Mp=1∑N+1q=1W1ON2(p,q)β2Sp,q(t)-(10)dI3CN2*(p,q)(t)dt=-1τI3CN2*(p,q)(t)+∑Mp=1∑N+1q=1W2ON1(p,q)β2Sp,q(t)-∑Mp=1∑N+1q=1W2OFF(p,q)β2Sp,q(t)-(11)其中,β1,β2是常量。
在信号累加完成之后,对3CN1*和3CN2*层的神经元进行设置,即令只有偶数列的神经元会被激发从而发出脉冲信号,而奇数列的神经元则不会被激发。
之后将两个新得到的神经元阵列记为3CN1和3CN2。
突触强度将由下式计算得到:W3CNi(p,q)=W3CNi*(p,2k)(12)其中i={1,2},i=1,2,…,N/2;1≤p≤M,1≤q≤N/2。
此后网络中的剩余的突触强度分布的计算都由类似的迭代方式和下采样方法计算得到。
最终我们可以获得四个输出神经元阵列OUT1,OUT2,OUT3和OUT4,这些神经元层的激发率的计算公式如下:rOUT{j}(m,n)(t)=1T∑t+TtSOUT{j}(m,n)(t)(13)其中j={1,2,3,4},SOUT{j}(m,n)(t)表示输出阵列的脉冲训练。
4基于SNNFWT网络提取图像特征本文中将利用Matlab软件对所构建的脉冲神经元网络SNNFWT进行仿真测试。
在实验中根据Euler方法,步长设置为0.1ms。
根据生物神经元特性将参数设置如下:vth=-60mv,El=-70mv,gl=1.0ms/mm2,c=8nF/mm2,τ=16ms,T=400ms,α=0.02,β1=4.3,β2=5.1,I0=7μA。
这些参数可以被调整以获得高质量的输出图像。
实验中所使用的测试图像如图3所示。
图3(a)为高斯灰度分布图像,像素为16×16。
图3(b)为Lena图像,该图像是在图像处理领域广泛使用的基准图像,大小为512×512。
(a)高斯分布图(b)Lena图像图中横纵坐标均表示像素位置,黑白色条表示图像灰度范围在0~255高斯图像的测试结果如图4所示。
其中,图4(a)-(d)是高斯图像经过Mallat小波变换得到的四个变换系数。
图4(e)-(h)则是通过SNNFWT脉冲神经元网络所得到的四个近似结果。
图4中所有图像维度为8×8,分辨率为原始图像的四分之一。
Lena图像的实验结果如图5所示。
实验中,由于该图像维度超过了Matlab默认的矩阵维度,因此该图像被切割为32×32个子块,每个子块的像素数是16×16。
图5(a)-(d)是通过数学方法所得到的结果,图5(e)-(h)的结果则来自于脉冲神经元网络。
以上实验结果说明所构建的脉冲神经元网络可以实现与小波变换类似的特征提取工作,同时又忽略了微弱的噪声信息。
众所周知,图像的主要能量,即图像的主要信息被保存在其低频分量中,而高频分量则只含有较少的能量信息。
与数学方法实现小波变换相比,尽管视觉图像信号通过了复杂庞大的神经元网络并且丢失了一些细节,但是最终保留了所有的低频分量,只有一些最高频分量损失。
图6显示了原始图像和经过SNNFWT网络的一阶和二阶的近似系数图像。
从二阶图像效果上看,尽管信号经过了两组复杂神经元网络,整体能量有所降低,但是图像的关键信息,比如人物和背景轮廓,草帽以及面部细节信息都仍然被很好的保留下来。
5讨论在文章中,我们提出了一个结合了生物神经元开/关通道和突触电流机制的累积放电脉冲神经元网络来提取视觉图像的特征信息。