数据分析知识：数据挖掘中的人工神经网络

数据挖掘技术分析与研究

摘 要：随着现代信息技术、网络、数据库技术的迅速发展及数据库管理系统的广泛应用，各种类型信息数据越来越多。数据挖掘就是从大量的实际应用数据中提取隐含信息和知识，它利用了数据库、人工智能和数理统计等多方面的技术，是一类深层次的数据分析方法。对大量数据进行高速的分析和提取。

关键词：数据挖掘；决策算法；遗传算法；近邻算法

中图分类号：tp301 文献标识码：a 文章编号：1674-7712 （2013）

04-0065-01

一、数据挖掘概念及技术

数据挖掘就是又译为资料探勘、数据采矿。它是数据库知识发现（英语：knowledge-discoveryindatabases，简称：kdd）中的一个步骤。数据挖掘一般是指从大量的数据中自动搜索隐藏于其中的有着特殊关系性（属于associationrulelearning）的信息的过程。数据挖掘通常与计算机科学有关，并通过统计、在线分析处理、情报检索、机器学习、专家系统（依靠过去的经验法则）和模式识别等诸多方法来实现上述目标。其实实质是一种透过数理模式来分析企业内储存的大量资料，以找出不同的客户或市场划分，分析出消费者喜好和行为的方法。其方法如下：

（一）人工神经网络：数据挖掘中使用最为广泛的技术，神经网络的数据挖掘方法就是通过模仿人的神经系统来反复训练学习数据集，从待分析的数据中发现用于预测和分类的模式。神经元网络适用于结果比可理解性更重要的分类和预测的复杂情况，可用于聚类、关联、演变分析和离散点分析。

（二）决策树归纳算法：从关系数据库中提取关联规则是主要的数据挖掘方法之一，挖掘关联是通过搜索系统中的所有事物，并从中找到出现条件概率较高的模式，适合于探测式知识的发现，广泛用于医学、制造和生产、金融分析、天文学和分子生物学。

（三）遗传算法：分类和预测是数据分析的两种重要形式，可以用于提取描述重要数据类的模型或预测未来的数据趋势。主要方法包括：决策树，判定树、贝叶斯法、bp神经网络算法、遗传算法、粗糙集、模糊集等。预测方法有经典的统计方法、神经网络和机器学习等。

人工神经网络技术研究

刘洋

【摘 要】以目前流行的数据挖掘中的人工神经网络技术为例,分析了其原理、主要功能、结构及工作方式等几方面,并指出了人工神经网络技术未来的研究方向及发展趋势.

【期刊名称】《农业网络信息》

【年(卷),期】2013(000)009

【总页数】3页(P29-31)

【关键词】人工神经网络;信息处理;网络算法

【作 者】刘洋

【作者单位】内蒙古师范大学,内蒙古呼和浩特010022

【正文语种】中 文

【中图分类】S126

1 人工神经网络原理

人工神经网络是在现代神经生物学研究基础上提出的模拟生物过程以反映人脑某些特性的计算结构。它不是人脑神经系统的真实描写，而只是某种抽象、简化和模拟[1]。在人工神经网络中，神经元常被称为“处理单元”。有时从网络的观点出发常把它称为 “节点”。人工神经元是对生物神经元的一种形式化描述，它对生物神经元的信息处理过程进行抽象，并用数学语言予以描述；对生物神经元的结构和功能进行模拟，并用模型因子予以表达。

图1 神经元结构模型

人工神经元的输出也同生物神经元一样仅有一个，如用Oj表示神经元输出，则输出与输入之间的对应关系可用图1中的某种函数来表示，这种函数称为转移函数，一般都是非线性的。常用的函数有：阈值型转移函数、分段线性转移函数、非线性转移函数。

2 人工神经网络主要功能

2.1 分类

神经网络对外界输入样本具有很强的识别与分类能力。对输入样本的分类实际上是在样本空间中找出符合分类要求的分割区域，每个区域内的样本属于同一类。传统分类方法只适合解决同类相聚，异类分离的识别与分类问题。但客观世界中的许多事物在样本空间上的区域分割曲面是十分复杂的，相近的样本可能属于不同的类，而远离的样本可能同属一类。神经网络可以很好地解决对非线性曲面的逼近，因此比传统的分类器有更好的分类能力。

2.2 非线性映射

在客观世界中，许多系统的输入与输出之间存在复杂的非线性关系，对于这类系统，往往很难用传统的数理方法建立数学模型。设计合理的神经网络，通过对其输入输出样本对进行自动学习，能够以任意精度逼近任意复杂的非线性映射。神经网络的这一优良性能使其可以作为非线性函数的通用数学模型。该模型的表达是非解析的，输入输出数据之间的映射规则由神经网络在学习阶段自动提取并分布式存储在网络的所有连接中。具有非线性映射功能的神经网络应用十分广泛，几乎涉及所有领域。

基于神经网络的人工智能图像识别算法研究

随着人工智能技术的不断发展，图像识别技术正在不断突破。其中，基于神经网络的图像识别算法成为了研究的热点之一。本文将从以下几个角度探讨基于神经网络的人工智能图像识别算法的研究。

一、神经网络的基本原理

神经网络是一种类似于人脑的计算模型，由许多相互连接的神经元组成。它通过模拟人脑神经元之间的相互作用，实现各种复杂的数据处理任务。神经网络可以被看作一个黑箱子，输入数据经过前馈计算，输出对应结果。常见的神经网络模型包括感知机、卷积神经网络、循环神经网络等。

二、神经网络在图像识别中的应用

神经网络算法在图像识别领域的应用已经得到了广泛的关注，尤其是卷积神经网络。卷积神经网络（Convolutional Neural

Network，CNN）是一种常见的深度神经网络，它能够对大规模图像数据进行有意义的学习和分析，从而实现高效的图像识别。卷积神经网络模型包括卷积层、池化层、全连接层等。其中，卷积层是卷积神经网络的基础，主要使用卷积核对图像进行卷积操作，并提取出图像的各种特征。池化层用于对卷积得到的特征图进行压缩处理，以减少特征图中的冗余信息，同时保留有用的特征。全连接层是将池化层得到的特征图转变为一维向量，并通过全连接层进行分类或回归。卷积神经网络的结构可以很好地模拟人类视网膜的结构，从而更好地处理图像信息。

三、神经网络图像识别算法的发展历程

神经网络图像识别算法的发展经历了多个阶段。早期，神经网络需要手动提取图像的特征，再通过神经网络模型进行分类。这个阶段的算法的识别准确率比较低。后来，研究人员发现，利用卷积神经网络可以自动学习图像的特征，这样可以提高识别准确率。近年来，卷积神经网络出现了多项改进，如ResNet、Inception、MobileNet等模型，取得了更高的识别准确率。同时，深度学习平台TensorFlow、PyTorch、Keras也在不断发展，大大提高了神经网络图像识别算法的研究效率。

关于神经网络的数据挖掘方法研究

随着Internet的发展，从浩翰的数据库中挖掘有用的信息成为一个迫切需要解决的问题.数据挖掘的研究应用而生[1，2].它反复应用挖掘算法从观测的数据中提取一个更为简洁的模式.这种模式应该是一种自然的表示形式(如公式、自然语言或图表等).由于庞大的数据集的性质往往非常复杂，且非线性、持续性及噪音普遍存在，因此需要一种不同于传统的新的理论和方法去解决数据挖掘中的问题.神经网络作为一种非线性自适应动力学系统，具有通过自学习提取信息的内部特征的优点，非常适合解决数据挖掘的问题.本文针对目前数据挖掘中的研究热点分类问题，探索应用神经网络方法，挖掘大型数据库的分类规则.

1 使用神经网络进行数据挖掘的步骤基于神经网络的数据挖掘由以下二个阶段组成:网络构造和训练，规则抽取.

1.1 网络构造和训练这一阶段根据数据集中的属性数目和类数目以及数据特性，选择合适的编码方法，构造一个多层的前向神经网络(一般采用三层BP网即可).然后，通过教师示教的方式训练构造好的神经网络.

但是，即使对于只有一个输出单元的网络，随着输入单元的增多，网络各层单元之间的连接数将成倍增长，造成相应的提取规则也将成指数增长，给规则提取造成很大困难.为此，有必要对网络进行裁剪.网络裁剪的目标是在不增加网络的分类错误率的前提下，删除多余的连接和隐层单元，构造一个连接和单元数目相对较小的网络，以利于抽取简明可理解的规则.裁剪算法可采用递减的探测算法.递减式的探测算法是，从一很大的网格结构开始，在训练过程中，根据特定的问题的需要，逐渐减少结构的各个部分，直到找到能解决问题的网络结构为止.但该算法存在着不一定能找到最优结构的缺点.而遗传算法作为一种全局最优搜索算法，对目标函数既不要求连续也不要求可微，仅要求该问题可计算，而且它的搜索始终遍及整个解空间，因此非常容易得到全局最优解.遗传算法的这一特性使得它在进化神经网络结构时，可使进化后得到的神经网络具有结构简单、性能优良的优点.遗传算法已越来越多的应用到神经网络的进化中[3].