指标筛选技术在神经网络数据挖掘模型中的应用
摘要
在简要介绍神经网络基本原理的基础上，以分类神经网络中的RBF 网络为例，讨论了神经网络数据挖掘模型中指标筛选的重要性，并以信用卡欺诈检测神经网络数据挖掘模型为实证案例，演示了指标筛选方法能有效地提高神经网络模型的分类效率与收敛速度，同时，讨论如何针对数据挖掘主题与数据特点选择合适的指标筛选技术。常用的指标筛选技术有相关分析、回归分析、信息增益、模糊集与主成分法等，本文重点介绍了基于回归分析的指标筛选与基于信息增益的指标筛选，目的在于通过引入指标筛选技术，提高神经网络数据挖掘模型的准确率、响应速度与减少资源占用等。
关键词：数据挖掘、神经网络、指标筛选、信息增益
1. 引言
根据Universal Approximation Theore，即神经网络具有对任何复杂函数的模拟逼近功能，这为神经网大规模应用提供了强有力的理论依据。由于神经网络是基于生物神经网络的模拟，通过不断学习来认识事物潜在的规律。同时，由于神经网络没有对数据分布进行相应的假设，这使神经网络在各行业中的应用具有广泛的适用性。另一方面，由于没有对数据分布进行假定，使神经网络对噪声数据具有相当的柔性，这进一步使人们在面对高维空间与海量数据时，更偏向于采用基于生物模拟的神经网络，而非基于传统的统计分析与计量方法，如多元统计分析等。但是，神经网络的柔性与通用逼近性在实践中有时并未给研究分析带来理想的效果，其根本原因在于，直接导入高维空间数据致使神经网络的效率急剧下降，也使得神经网络很难满足实时响应的要求，如实时欺诈监控、实时风险评级、工业实时控制等。
因此，本文针对神经网络的应用，提出了高维空间的预处理，即指标筛选。文章安排具体如下，首先介绍了神经网络的基本原理；其次，介绍几种指标筛选方法，并进行比较，重点讨论信息增益方法在指标选择中的优势；
再次，根据一银行信用卡欺诈数据集，演示了指标筛选技术在神经网络中的作用，同时比较了不同指标筛选技术的效率；最后，总结了指标筛选技术在神经网络模型中应用要点。
2. 神经网络的基本原理
人工神经网络（Neural Networks）是对生物神经网络进行仿真研究的结果。它通过采集样本数据进行学习的方法来建立数据模型，系统通过样本不断学习，在此基础上建立计算模型，从而建立神经网络结构[2]。神经网络通过训练后可以执行复杂函数的功能，能对所有函数进行逼近，Universal Approximation Theorem。这就是说，如果一个网络通过训练后呈收敛状态，那么神经网络就具备了执行输入到输出这种线性或非线性的函数功能。当然，这种函数不是基于理论或经验的假设，而是基于对样本的有监督的训练，使神经网络具备了模拟复杂系统的功能。根据数据挖掘主题的类型，神经网
络可分为分类神经网络（含预测）与聚类神经网络。本文实证分析部分采用神经网络中的RBF 网络，RBF 网络属于分类神经网络，其拓扑图与学习原理可参阅相应文献[3]。RBF 神经网络除了具有神经网络的相应优点外，还有两大缺陷，一是网络的训练时间较长，或需要高性机能计算机设备，当然，除非工业级的实时监控上的应用，对一般的经济分析而言，这点不足为虑。另一个不足是研究者不能得到一个基于样本训练出来的分类函数，也即不能对输入输出进行结构分析，这也是所有神经网络模型的一大缺憾。
3. 指标筛选技术
数据挖掘需要处理的是海量的数据集，且变量（或指标）非常多（一般都在50 个以上，称为高维空间），由于不知道相应的规则或模式，收集更多的样品指标以防止遗漏重要解释变量，但是这不等于把所的指标都应用数据挖掘建模，这样会严重影响建模的效率与对挖掘结果的解释，少量的指标有利于模型的结构解释。因此，在建模之前必须对指标进行筛选，以挑选出对目标变量或模式有重要影响的变量。
指标筛选即指标归约，是指用部分指标来代替原有的指标体系，即进行适当降维。降维的方法主要有两类，一是选择指标的子集来代替原有的指标体系，如相关分析、回归分析、信息增益与模糊集等。二是对原有指标进行变换，转化成新的综合性指标，如主成分分析。本文所述的指标筛选是子集的选择。指标选取的方法有多种，常用的是相关分析，基于Pearson 相关定理。由于相关分析在数据处理中应用较为普遍，本文不再赘述。关于基于模糊集的指标筛选技术，由于在常用的统计软件中得不到支持，故不作介绍。故本节重点介绍基于回归分析与信息增益的指标筛选方法。与相关分析不同，基于回归分析筛选方法试图从线性因果关系来说明各个自变量对因变量的影响程度与方向。基于信息增益的指标筛选方法与上述两种方法完全不同。信息增益方法源于熵理论，即热力学第二定律，目前在社会学科、管理科学以及空间科学上取得了相当多的成功应用，其基本思想是以指标的信息含量来评价指标的重性，进而筛选指标。
3.1 基于回归分析的指标筛选原理
回归分析有线性与非线性之分。线性回归分析适用于取值范围不大的指标，以防止个别指标值对回归线产生较大的拉近作用，使回归线过分拟合异常值（或端点值）。回归分析指标筛选方法有：前进法（Forward）、后退法（Backward）以及步进法（Stepwise）。其基本原理如下：Forward 是在回归模型中逐步加入指标，直到没有满足一定显著性要求的指标为止。对已入选择的指标在有新的指标加入后，其显著性是否符合要求不再进行检测，即“只进不出”。显著性检测一般采用偏j F 检验。Backward 是先把所有的指标纳入到回归模型中，然后根据显著性水平，剔除显著性水平最低的指标（即T值绝对值最小的，且不显著性），再由剩下的指标重新拟合回归模型，并剔除T 值最小的指标，如此循环，直到所有指标都达到一定的显著性要求为止。Backward 最大的特点，也即缺点是对已剔除的指标不再有机会入选回归模型，即“只出不进”。
Stepwise 是Forward 与Backward 的结合，也是最为常的回归筛选指标的方法。其基本过程与Forward 类似，不同之处在于对已剔除的指标还有机会重新选入模型，即“有进有出”。最为关键的是分别对剔除与选入设定了
不同的显著性水平，且剔除的显著性水平out a 小于进入的显著性水平in a ，即所谓的“宽进严出”,否则会产生引进后再剔除这样的循环过程。基于回归分析的指标筛选应用的关键在于对回归函数形式的假设是否与实际相符，同时指标的显著性检验需要对数据分布作相应的的假设。其优点是可以从结构上说明各指标的重要性。
3.2 基于信息增益的指标筛选原理
在进行数据挖掘时，要确定使用哪些指标，除了基于成功的经验与先验理论外，一般比较困难，况且数据挖掘的目标是发现潜在的有兴趣的模式与规律。也就是说，事先没有一定的理论认识，如有相当的认识，则可以采用其它统计手段进行分析。如果采用的指标太少，会降低数据挖掘的效果。如果选用的指标太多，会产生指标间的共线性，导致挖掘主题被“淹没”，如在判别分析中不能得到判别函数，同时参数的标准差将增大，显著性检验失效。因而，指标筛选成了数据挖掘的关键之一。
在介绍信息增益方法前，先对熵（entropy）的概念做相应解释。熵是对数据集的随机性的一种度量，是一种量化信息的概念。爱因斯坦曾指出热力学的第二定律（熵理论）是联系自然界与人类社会的桥梁，由此可见熵理论的重要性。熵理论目前已广泛应用于信息科学、管理科学与环境空间科学等。熵表达了一种物质状态所能提供的信息，如果熵小，则物质呈现出一种相对有序的状况，这就意味着所包括的信息量较少。对统计分析而言，如果一个数据集中的所有数据都属于同一类，概率取值为1，则没有不确定性，此时的熵取值为0。
假设有一个数据集S（一个样本），被解释变量（指标）为o，有r 个指标值（o , o , , o r 1 2 L ），根据o的取值可以把数据集S 划成r个子集（r s , s , , s 1 2 L ），显然有) 1 2 r S = s ?s ?L?s ，? ? ? = f s r s1 s L s 。任一样品属于i s 概率为i p ,则对样本S分成r类所需要的信息为：
∑=
= -
r
i
r i i I s s s p p
1
1 2 2 ( , ,L, ) ( log )
采用以2 为底的对数i p 2 log ，是因为信息编码采用二进制方式。解释变量（评价指标）为i A （i =1,2,L,n），任取一个指标i A ，i A 有m 个取值（m a , a , , a 1 2 L ），根据指标i A 的取值可能把数据集S 划成m 个子集（m sa , sa ,L sa 1 2 ）,显然有m S = sa1 ?sa2 ?L?sa ，? ? ? = f m sa1 sa2 L sa ，则k s 与l sa 交集为kl k l C = s ? sa 。令kl n 为kl C 中的样品数目，其中（k
=1,2,L,r ，
l =1,2,L,m）则根据指标i A 对样本S 进行分类所需要的信息称作i A 的熵，记为( ) i E A
( ) ( , , , ) 1 2
1
1 2
l l rl
m
l
l l rl
i I C C C
r
E A n n n L
L ∑=
+ + +
=
则i A上该划分所获得的“信息增益”（information gain）定义为：
( ) ( , , , ) ( ) i 1 2 r i Gain A = I s s L s - E A
通过上述方法，可以计算每个n 指标的信息增益，按信息增益从大到小的顺序选取部分指标作为评价指标。
比较回归分析指标筛选技术与信息增益指标筛选技术的原理，可以发现，除离散化之外，基于熵理论的信息增益方法对数据分布没有相应的假设，同时信息增益技术在决策树ID3 与C4.5 算法中起着支撑作用。一般而言，在没有数据的分布信息的情况下，使信息增益进行指标筛选更为合理。
4. 基于指标筛选技术的RBF 神经网络信用卡评级分析
4.1 数据来源与软件工具说明
基于指标筛选的RBF 神经网络信用卡评级分析所用的数据集为DMAGECR与DMAGESCR，由SAS 公司提供，分别用于模型的训练、测试。记录数分别为1000、75 条，共有21 个指标①。目标变量为risk，“1”表示欺诈，“0”表示正常。分析工具采用SAS/STAT，SAS/EM4.3。SAS/STAT 主要是用于一般的统计分析，SAS/EM4.3 主要用于决策树。
4.2 指标筛选
由于目标变量risk 为二值型，采用Logistic回归分析进行指标筛选，方法为Stepwise。指标筛选结果，按显著性依高到低为：CHECKING、INSTALLP、SAVING、PURPOSE、MARTIAL、DURATION、AMOUNT。根据信息增益理论可得各指标的信息增益比，前六个指标值分别为：
CHECKING =0.052，HISTORY= 0.026，DURATION=0.022，AMOUNT=0.020，SAVING =0.015、PURPOSE=0.012
综合回归分析指标筛选结果与信息增益指标筛选结果，可以发现，衡量客户是否存在欺诈与社会人口信息类指标相关性不强（只有MARTIAL，即婚姻状况），而与客户的消费储蓄行为较为密切。两类指标筛选结论基本一致，但是在具体指标选择上还是有较大差别，其原因主要是两者的原理不同，判断指标重要
性的标准不同。
上述指标筛选结论说明两个问题：一是对于信用卡欺诈建模，客户的社会人口方面的信息并不重要，是否存在欺诈与客户行为密切相关，这种简化的数据结构给经济行为结构分析带来了便利。二是在进行数据挖掘时，如果把所有的相关性不明显的指标纳入分析模型，有可能导致模型的挖掘性能大
为下降，同时也会给后续的结构分析带来困难。对于一些不具有伸缩性（Flexible）的挖掘模型（如回归分析等），过多的指标不利于提取数据结构信息，即使是对一些伸缩能力很强的挖掘模型（如神经网络），指标太多也会降低挖掘模型的性能，使模型的泛化能力下降。
4.3 基于指标筛选技术的RBF 神经网络数据挖掘分析
本节信用卡欺诈分析RBF 神经网络数据挖掘，分别采所有原始指标、基于回归分析的指标子集与基于信息增益的指标子集作为输入数据结构，以便比较其对应的准确率。
建模流程如下图所示：
图4-2 RBF神经网络数据挖掘流程图
图4-2 中SAMPSIO.DMAGECR 功能为选取数据集，Data Partition 功能为抽取样本，Neural Network功能为建立RBF神经网络模型。
RBF神经网络模型分类效率对比表
（注：A模型直接采原始所有指标，B模型是基于回归分析的子标集，C 模型为基于信息增益的指标集。）
从表4-1 可以发现，C 模型的分类错误率较低（0.017），且训练误判率（0.017）高于验证误判率（0.013），说明C 模型具有较强的泛化能力。A 模型采用原始所有指标，分类误判率较高（0.29），训练误判率（0.29）低于验证误判率（0.32），模型泛化能力较弱。对比B 模型与C 模型的分类误判率，可以发现，基于信息增益的指标选择，使RBF 神经网络的误判率明显下降。其根本原本在于，基于回归分析的指标筛选对数据分布有一定的假定；而基于信息增益的指标筛选，除离散化外，对数据基本无要求。从RBF 网络收敛速度来看，通过指标筛选能有效提高运行速度。由于本次实证只有1000 条数据，采用指标筛选后，收敛速度提高3-4 倍。经测试，对于20000 条，指标87 个的海量数据集，神经网络收敛时需1-2 小时（运行于普通台式电脑），可见指标筛选对神经网络收敛速度有很大的影响。
5 总结
本文首先简要介绍了神经网络的基本原理与其在实践中的应用，指出了神经网络模型的高度柔性和处理高维空间数据的能力。其次，介绍了神经网络模型中指标筛选的必要性。再次，介绍几类常用的指标筛选技术，并着重
介绍了回归分析指标筛选技术与信息增益指标筛选技术。最后，基于RBF 神经网络数据挖掘模型（信用卡欺诈检测分析），比较了采用原始所有指标、回归分析子标集与信息增益指标集三种情况下，RBF 模型的分类效率与收敛速度，进一步展示了指标筛选技术在神经网络模型中应用的必要性与可行性。事实上，本文所介绍的指标筛选技术适合于所有高维空间的降维处理与建模分析。
浅谈数据挖掘技术及其应用 數据挖掘就是从海量数据中提取潜在有趣模式的过程。数据挖掘技术现已广泛应用于零售业、金融业、电信、网络安全分析、农业、医疗卫生等领域，研究十分广泛。 标签：海量数据；数据挖掘；应用研究 一、数据挖掘概念 数据挖掘比较公认的定义是由U.M.Fayyad等人提出的：数据挖掘就是从海量数据中提取潜在有趣模式的过程[1]。还有一些术语，具有和数据挖掘类似但稍有不同的含义，如数据库中知识挖掘、知识提取、数据/模式分析、数据考古等。数据挖掘技术最初是面向应用层面的，不光可以实现检索和统计专门数据库的操作，还能够在大量的数据集中实现小型、中型乃至大型系统的分析、归纳、推理等工作。 二、数据挖掘的基本任务 数据挖掘的目的就是发现有用的知识（即概念、规则和模式）。数据挖掘的基本任务主要有以下几个方面： （1）分类与预测。 分类属于有监督的学习，在构建分类模型之前，在数据源中选取训练集数据并作分类标记，然后运用分类模型对训练集数据进行分类，实在是按照样本属性相近的划入一类，最后将完成训练的分类模型应用到在未知类别的数据集中，获得相应的分类。预测是依据历史数据和现有的数据建立两种或两种以上变量间相互依赖的函数模型，然后进行预测或控制。 （2）聚类分析。 聚类分析是在识别数据的内在规则后，将数据分成相似数据对象组，从而获得数据的分布规律，划分的原则是不同组间距离尽可能大，组内距离尽可能小。聚类分析进一步是打算从一组杂乱的数据中发掘隐藏其中的分类规则。聚类分析与分类模式模型不同，分类模式是使用有标记样本构成的训练集的一种有监督学习方法，则聚类模型是使用在无标记的数据上的一种无监督学习方法。近年来，聚类分析在图像处理、商业分析、模式识别等有广泛应用。 （3）关联规则。 关联分析是通过对数据集中数据之间隐藏的相互关系的分析，揭露了具有相同类别的数据之间未知的关系。关联分析就是将给定一组项集和一个记录集合，
《海量数据挖掘技术及工程实践》题目 一、单选题（共80题） 1)( D )的目的缩小数据的取值范围，使其更适合于数据挖掘算法的需要，并且能够得到 和原始数据相同的分析结果。 A.数据清洗 B.数据集成 C.数据变换 D.数据归约 2)某超市研究销售纪录数据后发现，买啤酒的人很大概率也会购买尿布，这种属于数据挖 掘的哪类问题？(A) A. 关联规则发现 B. 聚类 C. 分类 D. 自然语言处理 3)以下两种描述分别对应哪两种对分类算法的评价标准？ (A) (a)警察抓小偷，描述警察抓的人中有多少个是小偷的标准。 (b)描述有多少比例的小偷给警察抓了的标准。 A. Precision,Recall B. Recall,Precision A. Precision,ROC D. Recall,ROC 4)将原始数据进行集成、变换、维度规约、数值规约是在以下哪个步骤的任务？(C) A. 频繁模式挖掘 B. 分类和预测 C. 数据预处理 D. 数据流挖掘 5)当不知道数据所带标签时，可以使用哪种技术促使带同类标签的数据与带其他标签的数 据相分离？(B) A. 分类 B. 聚类 C. 关联分析 D. 隐马尔可夫链 6)建立一个模型，通过这个模型根据已知的变量值来预测其他某个变量值属于数据挖掘的 哪一类任务？(C) A. 根据内容检索 B. 建模描述 C. 预测建模 D. 寻找模式和规则 7)下面哪种不属于数据预处理的方法？ (D) A.变量代换 B.离散化
C.聚集 D.估计遗漏值 8)假设12个销售价格记录组已经排序如下：5, 10, 11, 13, 15, 35, 50, 55, 72, 92, 204, 215 使用如下每种方法将它们划分成四个箱。等频（等深）划分时，15在第几个箱子内？ (B) A.第一个 B.第二个 C.第三个 D.第四个 9)下面哪个不属于数据的属性类型：(D) A.标称 B.序数 C.区间 D.相异 10)只有非零值才重要的二元属性被称作：( C ) A.计数属性 B.离散属性 C.非对称的二元属性 D.对称属性 11)以下哪种方法不属于特征选择的标准方法： (D) A.嵌入 B.过滤 C.包装 D.抽样 12)下面不属于创建新属性的相关方法的是： (B) A.特征提取 B.特征修改 C.映射数据到新的空间 D.特征构造 13)下面哪个属于映射数据到新的空间的方法？ (A) A.傅立叶变换 B.特征加权 C.渐进抽样 D.维归约 14)假设属性income的最大最小值分别是12000元和98000元。利用最大最小规范化的方 法将属性的值映射到0至1的范围内。对属性income的73600元将被转化为：(D) A.0.821 B.1.224 C.1.458 D.0.716 15)一所大学内的各年纪人数分别为：一年级200人，二年级160人，三年级130人，四年 级110人。则年级属性的众数是： (A) A.一年级 B.二年级 C.三年级 D.四年级
数据挖掘研究现状及发展趋势摘要：从数据挖掘的定义出发，介绍了数据挖掘的神经网络法、决策树法、遗传算法、粗糙集法、模糊集法和关联规则法等概念及其各自的优缺点；详细总结了国内外数据挖掘的研究现状及研究热点，指出了数据挖掘的发展趋势。 关键词：数据挖掘；挖掘算法；神经网络；决策树；粗糙集；模糊集；研究现状；发展趋势 Abstract：From the definition of data mining，the paper introduced concepts and advantages and disadvantages of neural network algorithm，decision tree algorithm，genetic algorithm，rough set method，fuzzy set method and association rule method of data mining，summarized domestic and international research situation and focus of data mining in details，and pointed out the development trend of data mining. Key words：data mining，algorithm of data mining，neural network，decision tree，rough set，fuzzy set，research situation，development tendency 1引言 随着信息技术的迅猛发展，许多行业如商业、企业、科研机构和政府部门等都积累了海量的、不同形式存储的数据资料[1]。这些海量数据中往往隐含着各种各样有用的信息，仅仅依靠数据库的查询检索机制和统计学方法很难获得这些信息，迫切需要能自动地、智能地将待处理的数据转化为有价值的信息，从而达到为决策服务的目的。在这种情况下，一个新的技术———数据挖掘(Data Mining，DM)技术应运而生[2]。 数据挖掘是一个多学科领域，它融合了数据库技术、人工智能、机器学习、统计学、知识工程、信息检索等最新技术的研究成果，其应用非常广泛。只要是有分析价值的数据库，都可以利用数据挖掘工具来挖掘有用的信息。数据挖掘典型的应用领域包括市场、工业生产、金融、医学、科学研究、工程诊断等。本文主要介绍数据挖掘的主要算法及其各自的优缺点，并对国内外的研究现状及研究热点进行了详细的总结，最后指出其发展趋势及问题所在。 江西理工大学
神经网络在数据挖掘中的应用
————————————————————————————————作者：————————————————————————————————日期： ?
神经网络在数据挖掘中的应用 摘要：给出了数据挖掘方法的研究现状,通过分析当前一些数据挖掘方法的局限性,介绍一种基于关系数据库的数据挖掘方法——神经网络方法,目前,在数据挖掘中最常用的神经网络是ＢＰ网络。在本文最后，也提出了神经网络方法在数据挖掘中存在的一些问题． 关键词：BＰ算法;神经网络;数据挖掘 １．引言 在“数据爆炸但知识贫乏”的网络时代,人们希望能够对其进行更高层次的分析，以便更好地利用这些数据。数据挖掘技术应运而生。并显示出强大的生命力。和传统的数据分析不同的是数据挖掘是在没有明确假设的前提下去挖掘信息、发现知识。所得到的信息具有先未知，有效性和实用性三个特征。它是从大量数据中寻找其规律的技术,主要有数据准备、规律寻找和规律表示三个步骤。数据准备是从各种数据源中选取和集成用于数据挖掘的数据；规律寻找是用某种方法将数据中的规律找出来;规律表示是用尽可能符合用户习惯的方式(如可视化)将找出的规律表示出来。数据挖掘在自身发展的过程中，吸收了数理统计、数据库和人工智能中的大量技术。作为近年来来一门处理数据的新兴技术，数据挖掘的目标主要是为了帮助决策者寻找数据间潜在的关联(Rｅｌation），特征(Pattern)、趋势(Tｒend)等，发现被忽略的要素，对预测未来和决策行为十分有用。 数据挖掘技术在商业方面应用较早，目前已经成为电子商务中的关键技术。并且由于数据挖掘在开发信息资源方面的优越性,已逐步推广到保险、医疗、制造业和电信等各个行业的应用。 数据挖掘(Dａta Ｍiｎing)是数据库中知识发现的核心，形成了一种全新的应用领域。数据挖掘是从大量的、有噪声的、随机的数据中，识别有效的、新颖的、有潜在应用价值及完全可理解模式的非凡过程。从而对科学研究、商业决策和企业管理提供帮助。 数据挖掘是一个高级的处理过程,它从数据集中识别出以模式来表示的知识。它的核心技术是人工智能、机器学习、统计等，但一个ＤM系统不是多项技术的简单组合,而是一个完整的整体，它还需要其它辅助技术的支持，才能完成数据采集、预处理、数据分析、结果表述这一系列的高级处理过程。所谓高级处理过程是指一个多步骤的处理过程,多步骤之间相互影响、反复调整,形成一种螺旋式上升过程。最后将分析结果呈现在用户面前。根据功能，整个DM系统可以大致分为三级结构。 神经网络具有自适应和学习功能，网络不断检验预测结果与实际情况是否相符。把与实际情况不符合的输入输出数据对作为新的样本，神经网络对新样本进行动态学习并动态改变网络结构和参数,这样使网络适应环境或预测对象本身结构和参数的变化，从而使预测网络模型有更强的适应性,从而得到更符合实际情况的知识和规则，辅助决策者进行更好地决策。而在ANN的
数据挖掘毕业论文 ---------数据挖掘技术及其应用 摘要：随着网络、数据库技术的迅速发展以及数据库管理系统的广泛应用，人们积累的数据越来越多。数据挖掘(Data Mining)就是从大量的实际应用数据中提取隐含信息和知识，它利用了数据库、人工智能和数理统计等多方面的技术，是一类深层次的数据分析方法。本文介绍了数据库技术的现状、效据挖掘的方法以及它在Bayesian网建网技术中的应用：通过散据挖掘解决Bayesian网络建模过程中所遇到的具体问题，即如何从太规模效据库中寻找各变量之间的关系以及如何确定条件概率问题。 关键字：数据挖掘、知识获取、数据库、函数依赖、条件概率 一、引言： 数据是知识的源泉。但是,拥有大量的数据与拥有许多有用的知识完全是两回事。过去几年中,从数据库中发现知识这一领域发展的很快。广阔的市场和研究利益促使这一领域的飞速发展。计算机技术和数据收集技术的进步使人们可以从更加广泛的范围和几年前不可想象的速度收集和存储信息。收集数据是为了得到信息,然而大量的数据本身并不意味信息。尽管现代的数据库技术使我们很容易存储大量的数据流,但现在还没有一种成熟的技术帮助我们分析、理解并使数据以可理解的信息表示出来。在过去,我们常用的知识获取方法是由知识工程师把专家经验知识经过分析、筛选、比较、综合、再提取出知识和规则。然而,由于知识工程师所拥有知识的有局限性,所以对于获得知识的可信度就应该打个 折扣。目前,传统的知识获取技术面对巨型数据仓库无能为力,数据挖掘技术就应运而生。 数据的迅速增加与数据分析方法的滞后之间的矛盾越来越突出,人们希望在对已有的大量数据分析的基础上进行科学研究、商业决策或者企业管理,但是目前所拥有的数据分析工具很难对数据进行深层次的处理,使得人们只能望“数”兴叹。数据挖掘正是为了解决传统分析方法的不足,并针对大规模数据的分析处理而出现的。数据挖掘通过在大量数据的基础上对各种学习算法的训练,得到数据对象间的关系模式,这些模式反映了数据的内在特性,是对数据包含信息的更高层次的抽象[1]。目前,在需要处理大数据量的科研领域中,数据挖掘受到越来越多
数据挖掘及其应用 Revised by Jack on December 14,2020
《数据挖掘论文》 数据挖掘分类方法及其应用 课程名称：数据挖掘概念与技术 姓名 学号： 指导教师： 数据挖掘分类方法及其应用 作者：来煜 摘要：社会的发展进入了网络信息时代，各种形式的数据海量产生，在这些数据的背后隐藏这许多重要的信息，如何从这些数据中找出某种规律，发现有用信息，越来越受到关注。为了适应信息处理新需求和社会发展各方面的迫切需要而发展起来一种新的信息分析技术，这种局势称为数据挖掘。分类技术是数据挖掘中应用领域极其广泛的重要技术之一。各种分类算法有其自身的优劣，适合于不同的领域。目前随着新技术和新领域的不断出现，对分类方法提出了新的要求。 。 关键字：数据挖掘；分类方法；数据分析 引言 数据是知识的源泉。但是，拥有大量的数据与拥有许多有用的知识完全是两回事。过去几年中，从数据库中发现知识这一领域发展的很快。广阔的市场和研究利益促使这一领域的飞速发展。计算机技术和数据收集技术的进步使人们可以从更加广泛的范围和几年前不可想象的速度收集和存储信息。收集数据是为了得到信息，然而大量的数据本身并不意味信息。尽管现代的数据库技术使我们很容易存储大量的数据流，但现在还没有一种成熟的技术帮助我们分析、理解并使数据以可理解的信息表示出来。在过去，我
们常用的知识获取方法是由知识工程师把专家经验知识经过分析、筛选、比较、综合、再提取出知识和规则。然而，由于知识工程师所拥有知识的有局限性，所以对于获得知识的可信度就应该打个折扣。目前，传统的知识获取技术面对巨型数据仓库无能为力，数据挖掘技术就应运而生。 数据的迅速增加与数据分析方法的滞后之间的矛盾越来越突出，人们希望在对已有的大量数据分析的基础上进行科学研究、商业决策或者企业管理，但是目前所拥有的数据分析工具很难对数据进行深层次的处理，使得人们只能望“数”兴叹。数据挖掘正是为了解决传统分析方法的不足，并针对大规模数据的分析处理而出现的。数据挖掘通过在大量数据的基础上对各种学习算法的训练，得到数据对象间的关系模式，这些模式反映了数据的内在特性，是对数据包含信息的更高层次的抽象。目前，在需要处理大数据量的科研领域中，数据挖掘受到越来越多的关注，同时，在实际问题中，大量成功运用数据挖掘的实例说明了数据挖掘对科学研究具有很大的促进作用。数据挖掘可以帮助人们对大规模数据进行高效的分析处理，以节约时间，将更多的精力投入到更高层的研究中，从而提高科研工作的效率。 分类技术是数据挖掘中应用领域极其广泛的重要技术之一。至今已提出了多种分类算法，主要有决策树、关联规则、神经网络、支持向量机和贝叶斯、k－临近法、遗传算法、粗糙集以及模糊逻辑技术等。大部分技术都是使用学习算法确定分类模型，拟合输入数据中样本类别和属性集之间的联系，预测未知样本的类别。训练算法的主要目标是建立具有好的泛化能力的模型，该模型能够准确地预测未知样本的类别。 1．数据挖掘概述 数据挖掘又称库中的知识发现，是目前人工智能和领域研究的热点问题，所谓数据挖掘是指从数据库的大量数据中揭示出隐含的、先前未知的并有潜在价值的信息的非平
１ 数据挖掘的起源 ２数据挖掘的定义 ３数据挖掘的过程 ３．１目标定义阶段 ３．２数据准备阶段 ３．３数据挖掘阶段 ３．４结果解释和评估阶段 面对信息社会中数据和数据库的爆炸式增长，人们分析数据和从中提取有用信息的能力，远远不能满足实际需要。但目前所能做到的只是对数据库中已有的数据进行存储、查询、统计等功能，但它却无法发现这些数据中存在的关系和规则，更不能根据现有的数据预测未来的发展趋势。这种现象产生的主要原因就是缺乏挖掘数据背后隐藏的知识的有力手段，从而导致“数据爆炸但知识贫乏”的现象。数据挖掘就是为迎合这种要求而产生并迅速发展起来的，可用于开发信息资源的一种新的数据处理技术。数据挖掘（ＤａｔａＭｉｎｉｎｇ），又称数据库中的知识发现（ＫｎｏｗｌｅｄｇｅＤｉｓｃｏｖｅｒｙｉｎＤａｔａｂａｓｅ，简称ＫＤＤ），比较公认的定义是由Ｕ．Ｍ．Ｆａｙｙａｄ等人提出的：数据挖掘就是从大量的、不完全的、有噪声的、模糊的、随机的数据集中，提取隐含在其中的、人们事先不知道的、但又是潜在的有用的信息和知识的过程，提取的知识表示为概念（Ｃｏｎｃｅｐｔｓ）、规则（Ｒｕｌｅｓ）、规律（Ｒｅｇｕｌａｒｉｔｉｅｓ）、模式（Ｐａｔｔｅｒｎｓ）等形式。数据挖掘是一种决策支持过程，分析各组织原有的数据，做出归纳的推理，从中挖掘出潜在的模式，为管理人员决策提供支持。ＫＤＤ的整个过程包括在指定的数据库中用数据挖掘算法提取模型，以及围绕数据挖掘所进行的预处理和结果表达等一系列的步骤，是一个需要经过反复的多次处理的过程。整个知识发现过程是由若干挖掘步骤组成的，而数据 挖掘仅是其中的一个主要步骤。整个知识发现的主要步骤有以下几点。要求定义出明确的数据挖掘目标。目标定义是否适度将影响到数据挖掘的成败，因此往往需要具有数据挖掘经验的技术人员和具有应用领域知识的专家以及最终用户紧密协作，一方面明确实际工作中对数据挖掘的要求，另一方面通过对各种学习算法的对比进而确定可用的算法。数据准备在整个数据挖掘过程中占的比例最大，通常达到６０％左右。这个阶段又可以进一步划分成三个子步骤：数据选择（ＤａｔａＳｅｌｅｃｔｉｏｎ），数据预处理（ＤａｔａＰｒｏｃｅｓｓｉｎｇ）和数据变换（ＤａｔａＴｒａｎｓｆｏｒｍａｔｉｏｎ）。数据选择主要指从已存在的数据库或数据仓库中提取相关数据，形成目标数据（ＴａｒｇｅｔＤａｔａ）。数据预处理对提取的数据进行处理，使之符合数据挖掘的要求。数据变换的主要目的是精减数据维数，即从初始特征中找出真正有用的特征以减少数据挖掘时要考虑的特征或变量个数。这一阶段进行实际的挖掘工作。首先是算法规划，即决定采用何种类型的数据挖掘方法。然后，针对该挖掘方法选择一种算法。完成了上述的准备工作后，就可以运行数据挖掘算法模块了。这个阶段是数据挖掘分析者和相关领域专家最关心的阶段，也可以称之为真正意义上的数据挖掘。 浅谈数据挖掘技术及其应用 舒正渝１、２ （１．西北师范大学数信学院计算机系，甘肃兰州７３００７０；２．兰州理工中等专业学校，甘肃兰州７３００５０）摘要：科技的进步，特别是信息产业的发展，把我们带入了一个崭新的信息时代。数据库管理系统的应用领域涉及到了各行各业，但目前所能做到的只是对数据库中已有的数据进行存储、查询、统计等功能，通过这些数据获得的信息量仅占整个数据库信息量的一小部分，如何才能从中提取有价值的知识，进一步提高信息量利用率，因此需要新的技术来自动、智能和快速地分析海量的原始数据，以使数据得以充分利用，由此引发了一个新的研究方向：数据挖掘与知识发现的理论与技术研究。数据挖掘技术在分析大量数据中具有明显优势，基于数据挖掘的分析技术在金融、保险、电信等有大量数据的行业已有着广泛的应用。关键词：数据挖掘；知识发现 Abstract:Key words:The progress of science and technology,especially the development of the information industry,brings us into a brand-new information age.The application of the data base management system has involved all trades and professions,but only the store,inquire and statistic function can be applied,account a little part of the whole database.How to improve the utilization ratio of the information has initiated a new research direction,the data mining and knowledge found theory and technique.The data mining has the advantage in analyzing a large number of data.The data mining analytical technology has been largely used finance,insurance,telecommunication industry,etc..Data mining;Knowledge discovery 收稿日期：２０１０－０１－１５修回日期：２０１０－０２－１１ 作者简介：舒正渝（１９７４－），女，重庆籍，硕士研究生，研究方向为数据库、多媒体。 中国西部科技２０１０年０２月（中旬）第０９卷第０５期第２０２期 总38
基于大数据的数据挖掘技术与应用 发表时间：2019-07-17T12:49:19.997Z 来源：《基层建设》2019年第12期作者：汪洋 [导读] 摘要：科技前进的步伐越来越快，数据挖掘与传统行业相结合，在各行各业展现出了十分强大的生命力。 中国联合网络通信有限公司黄石市分公司湖北黄石 435000 摘要：科技前进的步伐越来越快，数据挖掘与传统行业相结合，在各行各业展现出了十分强大的生命力。本文从数据挖掘的基本概念和功能谈起，进一步再分析其在金融和人力资源两个方面的具体运用。 关键词：数据挖掘；大数据；金融；人力资源 一、数据挖掘的概念和功能 （一）数据挖掘概念。数据挖掘是指从庞大繁杂的数据中通过算法搜索隐藏于表面数据背后信息的过程。数据挖掘通常与计算机科学有关，并通过统计、在线分析处理、情报检索、机器学习和模式识别等多种方法来实现上述目标。 （二）数据挖掘的方法和过程。数据挖掘的理论技术一般可分为传统技术和改良技术两支。就传统技术而言，以统计分析为主要代表；就改良技术而言，以决策树理论、类神经网络和规则归纳法等为主要代表。 （三）数据挖掘的主要功能。数据挖掘的功能十分强大，在与各行各业结合之后，都能为各行业带来新的发展契机。一般来说，数据挖掘的功能分为两类：一类是描述性功能，是指对目标数据的属性进行特征描述；另一类是预测性功能，是指对当前数据进行归纳，以进行发展趋势的预测。 二、数据挖掘技术的应用实践 （一）在金融方面的应用。大数据金融以庞大繁杂的数据作为基础，利用如互联网等信息化技术，分析处理对客户的消费数据，将客户及时全面的信息及时地反馈给金融企业，如此一来，使得金融企业给零散化的客户群体提供定制化的服务成为可能。数据挖掘技术在金融领域的表现十分优异，在第三方支付、p2p网络借贷、供应链金融、互联网消费金融等方面均有广泛的运用。 就第三方支付而言，因为其运用场景多样化，使用方便快捷，因而，第三方支付与上下游的交易者联系紧密。当相关数据累积到一定程度时，便可推出更多的增值服务，进一步增加利润来源。在众多增值服务中，近年来，值得一提的是由蚂蚁金服推出的蚂蚁花呗。蚂蚊花呗本质上而言是一款消费信贷产品。蚂蚁花呗利用大数据，以自身的风控模型为基础，结合对消费者在互联网上的各种网购情况、支付习惯、信用风险等的分析结果，对不同的用户根据其近期的消费情况给予不同数额的消费额度。 第三方互联网支付交易规模由于互联网理财等大额交易场景的推动保持高速增长。在2013年，第三方互联网支付交易额仅为6万亿元，但据可靠预测，在2020年，此交易额可到39万亿元。再看第三方移动支付交易额。由于移动支付场景的多样化、用户渗透率越来越高、各种第三方支付企业进军市场等原因，移动交易量不断上升。在2013年，第三方移动支付交易额仅为1万亿元。但据估计，在2020年，第三方移动支付交易额可达144万亿元。 （二）在人力资源管理方面的运用。 （1）数据挖掘与人力资源规划：通过数据挖掘技术，组织管理者可以利用搜集到的每一个员工的组织内外部的信息资料，联系企业的整体战略目标，以事实为依据，制定未来人力资源规划。 （2）数据挖掘与人才的招聘与配置：招聘时，招聘者对于求职者的了解一般都比较肤浅，对于求职者的专业技能掌握情況、工作效率等无法有效进行认知。而新兴的社交网络呈现了—个人各方面的信息，如工作经历、社会关系、工作效率等，从而能助招聘者一臂之力，达到精准的人岗匹配。 （3）数据挖掘与员工的开发：利用数据挖掘，管理者将职业生涯规划建立在员工全方位数据的基础上，如员工的应聘岗位、晋升意愿和期望薪酬等结构化与非结构化的数据信息，从而精准地为员工提供职业培训。 三、注意区分数据挖掘与个人信息侵犯 当今时代，科学技术的不断提高，使得各种数码产品更新换代速度加快，手机、电脑、照相机等电脑产品基本是一年更新换代一次甚至两三次。其中由于手机应用功能随着经济发展而逐渐增加，从原来的按键机发展到如今的触屏手机乃至折叠手机，其功能也从原来的拨打电话、发送短信、彩信功能而增加到如今的视频通话、语音通话以及上网功能。网络的普遍化丰富了人们的生活，使得人们可以便捷广泛的了解、认知自身以外的整个中国乃至整个世界，可以通过网络媒介了解到其他国家的风土民俗、地形地貌，了解自己所喜欢的明星网红的日常喜好，或是通过网络媒介得到想获得的知识、达到一个学习的作用。但网络媒介是一把双刃剑，通过网络世界了解到诸多信息时，也可能因为自己在网络上所说的一句话、所发的一个定位从而导致自身隐私泄露，个人信息被公布在大众眼中。要运用好大数据时代中网络媒体这一把双刃剑，就必须要求到人们提高自我隐私保护意识，规范网络世界中的一言一语。 （一）大数据时代信息量过大导致信息泄露 当今时代是科技不断发展的时代，是大数据时代。在大数据时代里，各种数码产品纷呈展现其自身的广泛性、普遍性，充斥在人类日常生活中。尤其是手机的发展从原始的只能打电话接电话的大哥大，渐渐变成能够发短信、收短信的按键机，为满足人们日常生活中的娱乐要求，在信息传播的同时又增加了照相机、听音乐、玩游戏等等娱乐功能。在科技发展的基础上，为满足人们日常生活中的各种精神需求，仅仅五六年时间内，按键手机逐渐演变成如今的触屏手机、智能手机。如今的手机已不仅是一个只能打电话、接电话的功能机，在满足了人们的基本通讯要求后，增加了上网的功能。如今微博app、微信app、qqapp各种社交app的崛起，使得人们日常生活充满了娱乐性、便捷性、广泛性，所接收的信息不仅来自自身以外的中国各地，而且也可以接触到中国以外其它国家，甚至来自地球以外的各大恒星的知识。如今你将会看到，越来越多的人在超市里、商场中、地铁上、公园里拿起手机刷微博、拍抖音、视频通话、拍照片等等，在大数据时代，由于网络的普遍，人们上一秒在抖音app上传了一段视频、微博上发布了一篇文章、朋友圈发表了几张照片，以网络传播速度快的特点，下一秒这个视频、这篇文章、这些照片就极有可能出现在大众视线中。网络带来便捷性的同时也带来过大的信息量以及一定性的安全隐患，人们通过信息库了解某一样东西的同时，也可能导致自身定位被人知道、自身隐私被泄露出去。 （二）大数据时代侵犯个人信息方法更多 由于科学技术进步速度快，数码产品更新换代的速度也日益加快。当手机硬件设施提高了，相应的各类软件应用层出不穷，给予了人们日常生活中的精神满足，同时也给予了不法分子有机可图的条件。人们隐私安全问题日益堪忧，由于手机等各种数码产品的普遍性，大
应用 Technology Application D I G I T C W 技术 194DIGITCW 2019.01 1 大数据时代的发展历程及现状表现 通过对大数据的发展历程进行分析，大数据在出现到现在，短短的几年的时间内，大数据的信息容量个数据交流在呈直线上升。目前大数据时代的流量总和能够满足全球人员每天消耗500G 以上。就目前我国大数据发展的过程来说，已经逐渐的应用到我国各行各业中，能够从中获取信息资源。企业可以利用大数据对产品进行综合性分析，还能根据用户的反馈对产品进行更新改造，大数据时代下，采用信息化管理，能够有效的提升企业的管理效率，进而提升企业的生产效益，所以要加强数据挖掘技术在大数据时代下的应用。 2 数据挖掘技术分析 2.1 数据挖掘 数据挖掘技术是在20世纪90年代初提出来的新兴技术，这种技术主要面对的是商业应用中的人工智能化研究方面。大数据时代下数据挖掘技术的应用具有较高的使用价值，在实际应用中，能够及时的掌握产品的具体使用情况，能够在众多的数据信息中进行优化数据信息，进而为企业的发展提供参考方向。在数据挖掘技术发展过程中，由原来的简单、清晰的数据中进行寻找信息到能够从复杂、模糊的数据中去寻找有利用价值的信息，实现了质的突破，说明技术要求较高，需要更好的利用互联网技术。[1]2.2 聚类分析 在进行数据挖掘时，可以采用聚类分析技术来对数据进行处理。聚类分析的主要作用是能够将难以理解的事物进行形象化分组，然后在根据不同性质将其划分为不同组的分析过程。聚类分析的本质能够对庞大的数据进行划分处理，在从中发现可利用的信息资源。但是在实际的使用中，聚类分析是区别于传统的分类方式，它的优势是能够在模糊对象下进行对信息数据进行分组。在目前的聚类分析方式主要有两种分类方式，一种是硬聚类，这种分类方式更加的贴合数据信息。另一种是模糊聚类，这种分类方式能够通过划分模糊数据在对其进行分类。总的来说，这两种的分类方式不一样，但是所能达到的目的是一样的，都能将数据进行划分。 2.3 特征性数据分析法 特征性数据分析方法也是数据挖掘技术的主要方式之一，特征性数据分析方法能够对整体的数据信息，进行特征性的分析，对其进行发掘有利用价值的信息。由于这种技术的方便快捷性，可以应对大多数的数据资源的分析，所以是相关研究者的主要研究方向。在应用中，相关的设计者提出了多种的特征数据分析方法，比如可以利用人工神经网络进行收集数据，在数据终端进行建立神经网络，搜集可利用的信息；采用遗传基因算法对数据进行分析，对庞大的数据进行选择、重组；利用可视化技术对数据进行搜集，挖掘，可以有效的提升数据挖掘技术的实用性。[2] 3 大数据时代中数据挖掘的应用及延展方向 3.1 市场营销领域 根据对大数据时代中数据挖掘技术应用的数据分析，市场营 销领域是应用数据挖掘技术最广的领域。在市场营销中，可以通过数据挖掘技术对市场数据进行相关的提取和总结，能够在大数据下进行分析用户的信息资源，可以根据大数据反馈回的数据信息，进行改变市场营销模式。比如，通过数据挖掘技术能够分析用户点击商品的次数，然后在后台系统中，可以继续为用户推送与此商品相关的衍生品，能够让用户有更多的选择性，提高用户的实际使用感。3.2 制造业领域 随着现代生活水平的不断提高，人们对于生活产品的质量要求也在日益增长着，在制造业领域中应用数据挖掘技术能够更好的提升生活产品的质量。大数据时代中数据挖掘技术应用在制造业中的应用，可以对生活产品生产时进行跟踪性的监管、及时得到产品问题的数据、了解产品的生产效率等。可以为以后产品的生产提供相应的数据分析，针对性的解决产品遇到的问题、提升生产效率，进而提升制造业的经济效益。数据挖掘技术在制造业领域应用，能够促进制造业的发展，是非常有必要的。[1]3.3 电信业领域 现代是信息化的时代，电信行业在蓬勃的发展中，但是电信用户基数大，所需要处理的问题也是最多的，所以需要更好的服务来解决用户的问题，才能给用户带来更好的体验感。电信技术的服务是需要非常庞大的数据进行支持才能更好的处理遇到的问题，但是这种技术服务会被数据流冲击，导致服务质量下降。数据挖掘技术在电信业领域的应用能够有效的改变这种局面，采用数据挖掘技术可以对复杂的电信数据进行分析与研究，能够在其中发现规律，针对用户反馈回的信息，进行改进，提高电信业的服务质量。3.4 教育领域 数据挖掘技术在教育领域中的应用能够有效的提升教育行业的发展，在实际的应用中，能够对全体学生的心理特点进行分析，然后得出相应的教学方案，让教师能够及时的掌握学生的学习情况，从而更好地进行教学活动。采用数据挖掘技术可以对全体学生的考试成绩进行分析，及时发现学生学习的薄弱之处，方便教师对其进行加强化教学。还可以利用数据挖掘技术对教学进行分析，能够更好的利用教学资源，最大化发挥教学资源的作用，从而提升教育领域的教学质量。 4 结束语 综上所述，随着信息化时代的不断发展，我国正在向着大数据时代迈进，要加强大数据时代下数据挖掘技术的应用，才能更好的满足各行业的实际需求。尤其是在市场营销领域、制造业领域、电信业领域、教育领域等，能够利用数据挖掘技术来进行对众多的数据分析与研究，得出可利用的数据，进而促进该行业的发展。参考文献 [1] 刘铭，吕丹，安永灿.大数据时代下数据挖掘技术的应用[J].科技导报，2018，36（09）：73-83. 大数据时代下数据挖掘技术的应用 梁?瀚 （青岛科技大学?中车青岛四方车辆研究所有限公司，青岛 266000） 摘要：随着现代社会信息化技术的不断发展，我国社会正在向信息化时代迈进。在信息化时代中，大数据时代是主要的发展环节。本文主要讲述了大数据时代下数据挖掘技术的应用方式，介绍数据挖掘技术的重要性。 关键词：大数据时代；数据挖掘技术；主要应用及延伸方向doi ：10.3969/J.ISSN.1672-7274.2019.01.152中图分类号：TP311.13 文献标示码：A 文章编码：1672-7274（2019）01-0194-01
指标筛选技术在神经网络数据挖掘模型中的应用 摘要 在简要介绍神经网络基本原理的基础上，以分类神经网络中的RBF 网络为例，讨论了神经网络数据挖掘模型中指标筛选的重要性，并以信用卡欺诈检测神经网络数据挖掘模型为实证案例，演示了指标筛选方法能有效地提高神经网络模型的分类效率与收敛速度，同时，讨论如何针对数据挖掘主题与数据特点选择合适的指标筛选技术。常用的指标筛选技术有相关分析、回归分析、信息增益、模糊集与主成分法等，本文重点介绍了基于回归分析的指标筛选与基于信息增益的指标筛选，目的在于通过引入指标筛选技术，提高神经网络数据挖掘模型的准确率、响应速度与减少资源占用等。 关键词：数据挖掘、神经网络、指标筛选、信息增益 1. 引言 根据Universal Approximation Theore，即神经网络具有对任何复杂函数的模拟逼近功能，这为神经网大规模应用提供了强有力的理论依据。由于神经网络是基于生物神经网络的模拟，通过不断学习来认识事物潜在的规律。同时，由于神经网络没有对数据分布进行相应的假设，这使神经网络在各行业中的应用具有广泛的适用性。另一方面，由于没有对数据分布进行假定，使神经网络对噪声数据具有相当的柔性，这进一步使人们在面对高维空间与海量数据时，更偏向于采用基于生物模拟的神经网络，而非基于传统的统计分析与计量方法，如多元统计分析等。但是，神经网络的柔性与通用逼近性在实践中有时并未给研究分析带来理想的效果，其根本原因在于，直接导入高维空间数据致使神经网络的效率急剧下降，也使得神经网络很难满足实时响应的要求，如实时欺诈监控、实时风险评级、工业实时控制等。 因此，本文针对神经网络的应用，提出了高维空间的预处理，即指标筛选。文章安排具体如下，首先介绍了神经网络的基本原理；其次，介绍几种指标筛选方法，并进行比较，重点讨论信息增益方法在指标选择中的优势； 再次，根据一银行信用卡欺诈数据集，演示了指标筛选技术在神经网络中的作用，同时比较了不同指标筛选技术的效率；最后，总结了指标筛选技术在神经网络模型中应用要点。 2. 神经网络的基本原理 人工神经网络（Neural Networks）是对生物神经网络进行仿真研究的结果。它通过采集样本数据进行学习的方法来建立数据模型，系统通过样本不断学习，在此基础上建立计算模型，从而建立神经网络结构[2]。神经网络通过训练后可以执行复杂函数的功能，能对所有函数进行逼近，Universal Approximation Theorem。这就是说，如果一个网络通过训练后呈收敛状态，那么神经网络就具备了执行输入到输出这种线性或非线性的函数功能。当然，这种函数不是基于理论或经验的假设，而是基于对样本的有监督的训练，使神经网络具备了模拟复杂系统的功能。根据数据挖掘主题的类型，神经网
数据挖掘技术与应用 余友波 数据仓库之路原创资料
1.1 第一章数据挖掘介绍 1.1.1 什么是数据挖掘 数据挖掘（Data Mining）是一个利用各种分析工具在海量数据中发现模型和数据之间关系的过程，这些模型和关系可以被企业用来分析风险、进行预测。 “数据挖掘是通过仔细分析大量数据来揭示有意义的新的关系、模式和趋势的过程。它使用模式认知技术、统计技术和数学技术。”（Gartner Group）。 “数据挖掘是一个从大型数据库中提取以前不知道的可操作性信息的知识挖掘过程。”（Aaron Zornes, The META Group）。 数据挖掘能够帮助企业降低成本、减少风险、提高资金回报率。现在很多公司开始采用数据挖掘技术来判断哪些是最有价值客户、重整产品推广策略，以用最小的花费得到最好的销售。电信行业和银行业较先使用数据挖掘，电信公司使用数据挖掘检测话费欺诈行为，银行使用数据挖掘检测信用卡欺诈行为。 数据挖掘模型建立完成后，进行验证和评价非常必要。比如用市场调查得到的客户数据做了一个模型，来预测哪些客户群会对新产品感兴趣。通常情况下还不能用这个模型直接指导行动，更稳妥的做法是，先对一小部分客户做一个实际的测试，得到市场的实际反应情况，然后再大规模的采取市场推广行动。 数据挖掘帮助分析师和决策人员更深入、更容易的分析数据。为了保证数据挖掘结果的价值，用户必须非常了解自己的数据；并且了解数据挖掘工具是如何工作的，了解不同的技术和算法对模型的准确度和模型生成速度的影响。 大部分情况下，数据挖掘的分析数据源可以是数据仓库或数据挖掘数据集市。数据挖掘工具访问数据仓库进行数据挖掘有许多好处。因为导入到数据仓库的数据已经经过了大量的数据清理和转换工作，减少数据挖掘的数据清理过程。
论文题目数据挖掘技术及其应用 姓名 学科、专业 指导教师 学号
数据挖掘技术及其应用 摘要: 数据挖掘技术作为一个新兴的技术在许多领域都取得了成功的应用，它是一个很有应用价值的课题,它融合了数据库、人工智能、机器学习等多个领域的理论和技术。据挖掘技术是一门综合多个学科的从数据中寻找规律的技术,该技术已经成功地应用于金融分析、市场分析、客户关系管理等多个行业。本文介绍了数据挖掘技术的基本情况及其应用，最后展望了数据挖掘技术的发展和今后的研究工作。 关键词: 数据挖掘 ;数据分类;关联规则;机器学习
随着现代信息技术、通讯技术和计算机技术的高速发展,数据库应用的范围、深度和规模不断扩大。传统的信息系统大部分是查询驱动的,数据库作为历史知识库对于一般的查询过程是有效的,但当数据和数据库的规模急剧增长时,传统的数据库管理系统的查询检索机制和统计分析方法已远远不能满足现实的需求,它迫切要求能够自动、智能和快速地从数据库中挖掘出有用的信息和知识。数据挖掘技术就是为迎合这种要求而产生并迅速发展起来的,它为研究现代信息处理提供了一种新的方法和研究领域。 1数据挖掘技术概述 1.1数据挖掘的定义 数据挖掘(Data Mining),又称数据库中的知识发现(Knowledge Discovery in Database,KDD),是指从大型数据库或数据仓库中提取隐含的、未知的、非平凡的及有潜在应用价值的信息或模式,它是数据库研究中的一个很有应用价值的新领域,融合了数据库、人工智能、机器学习、统计学等多个领域的理论和技术。 1.2数据挖掘系统的体系结构 数据挖掘系统由各类数据库、挖掘前处理模块、挖掘操作模块、模式评估模块、知识输出模块组成，这些模块的有机组成就构成了数据挖掘系统的体系结构。 数据挖掘系统的体系结构图 2 数据挖掘技术
数据挖掘技术的研究现状及发展方向 摘要：数据挖掘技术是当前数据库和人工智能领域研究的热点。从数据挖掘的定义出发，介绍了数据挖掘的神经网络法、决策树法、遗传算法、粗糙集法、模糊集法和关联规则法等概念及其各自的优缺点；详细总结了国内外数据挖掘的研究现状及研究热点，指出了数据挖掘的发展方向。 关键词：数据挖掘；神经网络；决策树；粗糙集；模糊集；研究现状；发展方向 The present situation and future direction of the data mining technology research Abstract: Data mining technology is hot spot in the field of current database and artificial intelligence. From the definition of data mining, the paper introduced concepts and advantages and disadvantages of neural network algorithm, decision tree algorithm, genetic algorithm, rough set method, fuzzy set method and association rule method of data mining, summarized domestic and international research situation and focus of data mining in details, and pointed out the development trend of data mining. Key words: data mining, neural network, decision tree, rough set, fuzzy set, research situation, development direction 0 引言 随着信息技术的迅猛发展，许多行业如商业、企业、科研机构和政府部门等都积累了海量的、不同形式存储的数据资料[1]。这些海量数据中往往隐含着各种各样有用的信息，仅仅依靠数据库的查询检索机制和统计学方法很难获得这些信息，数据和信息之间的鸿沟要求系统地开发数据挖掘工具，将数据坟墓转换成知识金砖，从而达到为决策服务的目的。在这种情况下，一个新的技术——数据挖掘(Data Mining，DM)技术应运而生[2]。数据挖掘正是为了迎合这种需要而产生并迅速发展起来的、用于开发信息资源的、一种新的数据处理技术。 数据挖掘通常又称数据库中的知识发现（Knowledge Discovery in Databases），是一个多学科领域，它融合了数据库技术、人工智能、机器学习、统计学、知识工程、信息检索等最新技术的研究成果，其应用非常广泛。只要是有分析价值的数据库，都可以利用数据挖掘工具来挖掘有用的信息。数据挖掘典型的应用领域包括市场、工业生产、金融、医学、科学研究、工程诊断等。本文主要介绍数据挖掘的主要算法及其各自的优缺点，并对国内外的研究现状及研究热点进行了详细的总结，最后指出其发展趋势及问题所在。 1 数据挖掘算法 数据挖掘就是从大量的、有噪声的、不完全的、模糊的、随机的实际应用数据中提取有效的、新颖的、潜在有用的知识的非平凡过程[3]。所得到的信息应具有先前未知、有效和实用三个特征。数据挖掘过程如图1所示。这些数据的类型可以是结构化的、半结构化的、甚至是异构型的。发现知识的方法可以是数学的、非数学的、也可以是归纳的。最终被发现了的知识可以用于信息管理、查询优化、决策支持及数据自身的维护等[4]。 数据选择：确定发现任务的操作对象,即目标对象； 预处理：包括消除噪声、推导计算缺值数据、消除重复记录、完成数据类型转换等； 转换：消减数据维数或降维； 数据开采：确定开采的任务，如数据总结、分类、聚类、关联规则发现或序列模式发现等，并确定使用什么样的开采算法； 解释和评价：数据挖掘阶段发现的模式，经过用户和机器的评价，可能存在冗余或无关的模式，这时需要剔除，使用户更容易理解和应用。十大经典算法如图2： 目前，数据挖掘的算法主要包括神经网络法、决策树法、遗传算法、粗糙集法、模糊集法、关联规则法等。