大数据挖掘技术地的综述

实用标准文案

精彩文档

数据挖掘技术综述

随着计算机、网络技术的发展，获得有关资料非常简单易行。但 对数量大、涉及面宽的数据，传统统计方法无法完成这类数据的分析。 因此，一种智能化的、综合应用各种统计分析、数据库、智能语言来 分析庞大数据资料的“数据挖掘” (Date Mining )技术应运而生。本 文主要介绍了数据挖掘的基本概念以及数据挖掘的方法； 本文对数据

掘的应用及其发展前景也进行了描述。

随着信息技术迅速发展，数据库的规模不断扩大，从而产生了大 量的数据。激增的数据背后隐藏着许多重要的信息， 人们希望能够对 其行更高层次的分析，以便更好地利用这些数据。为给决策者提供一 个统一的全局视角，在许多领域建立了数据仓库。但大量的数据往往 使人们无法辨别隐藏在其中的能对决策提供支持的信息， 而传统的查

询、报表工具无法满足挖掘这些信息的需求。因此，需要一种新的数 据分析技术处理大量数据，并从中抽取有价值的潜在知识，数据挖掘 (Data

Mining )技术由此应运而生。数据挖掘技术也正是伴随着数 据仓库技术的发展而逐步完善起来的数据挖掘是指从数据集合中自 动抽取隐藏在数据中的那些有用信息的非平凡过程， 这些信息的表现 形式为：规则、概念、规律及模式等。它可帮助决策者分析历史数据 及当前数据，并从中发现隐藏的关系和模式，进而预测未来可能发生 的行为。数据挖掘的过程也叫知识发现的过程， 它是一门涉及面很广 的交叉性新兴学科，涉及到数据库、人工智能、数理统计、可视化、 并行计算等领域。数据挖掘是一种新的信息处理技术，其主要特点是 实用标准文案

精彩文档

对数据

库中的大量数据进行抽取、转换、分析和其他模型化处理，并从 中提取辅助决策的关键性数据。数据挖掘是KDD( Knowledge Discovery in

Database )中的重要技术，它并不是用规范的数据 库查询语言(如SQL进行查询，而是对查询的内容进行模式的总结 和内在规律的搜索。传统的查询和报表处理只是得到事件发生的结果， 并没有深入研究发生的原因，而数据挖掘则主要了解发生的原因， 并 且以一定的置信度对未来进行预测，用来为决策行为提供有利的支持。

数据挖掘的研究融合了多个不同学科领域的技术与成果， 使得目

前的数据挖掘方法表现出多种多样的形式。 从统计分析类的角度来说，

统计分析技术中使用的数据挖掘模型有线形分析和非线形分析、 回归

分析、逻辑回归分析、单变量分析、多变量分析、时间序列分析、最 近序列分析、最近邻算法和聚类分析等方法。利用这些技术可以检查 那些异常形式的数据，然后，利用各种统计模型和数学模型解释这些 数据，解释隐藏在这些数据背后的市场规律和商业机会。知识发现类 数据挖掘技术是一种与统计分析类数据挖掘技术完全不同的挖掘技 术，包括人工神经元网络、支持向量机、决策树、遗传算法、粗糙集、 规则发现和关联顺序等。

传统的统计学为数据挖掘提供了许多判别和回归分析方法， 常用

的有贝叶斯推理、回归分析、方差分析等技术、贝叶斯推理是在知道 新的信息后修正数据集概率分布的基本工具， 处理数据挖掘中的分类 问题，回归分析用来找到一个输入变量和输出变量关系的最佳模型， 在回归分析中有用来描述一个变量的变化趋势和别的变量值的关系 的线性回归，还有实用标准文案

精彩文档

用来为某些事件发生的概率建模为预测变量集的对 数回归、统计方法中的方差分析一般用于分析估计回归直线的性能和 自变量对最终回归的影响，是许多挖掘应用中有力的工具之一。

关联规则是一种简单，实用的分析规则，它描述了一个事物中某 些属性同时出现的规律和模式，是数据挖掘中最成熟的主要技术之一。 它是由R Agrawal等人首先提出的，最经典的关联规则的挖掘算法 是Apriori，该算法先挖出所有的频繁项集，然后，由频繁项集产生 关联规则，许多关联规则频繁项集的挖掘算法都是由它演变而来的， 关联规则在数据挖掘领域应用很广泛适合于在大型数据集中发现数 据之间的有意义关系，原因之一是它不受只选择一个因变量的限制， 关联规则在数据挖掘领域最典型的应用是购物篮分析。 大多数关联规

则挖掘算法能够无遗漏发现隐藏在所挖掘数据中的所有关联关系， 所

挖掘出的关联规则量往往非常巨大， 但是，并不是所有通过关联得到 的属性之间的关系都有实际应用价值，对这些关联规则进行有效的评 价，筛选出用户真正感兴趣的，有意义的关联规则尤为重要。

聚类分析是根据所选样本间关联的标准将其划分成几个组， 同组

内的样本具有较高的相似度，不同组的则相异，常用的技术有分裂算 法，凝聚算法，划分聚类和增量聚类。聚类方法适合于探讨样本间的 内部关系，从而对样本结构做出合理的评价，此外，聚类分析还用于 对孤立点的检测。有时进行聚类不是为了将对象相聚在一起而是为了 更容易地使某个对象从其他对象中分离出来。 聚类分析已被应用于经 济分析、模式识别、图像处理等多种领域，尤其在商业上，聚类分析 实用标准文案

精彩文档

可以帮助市场人员发现顾客群中所存在的不同特征组群。

聚类分析的技术关键除了算法的选择之外， 就是对样本的度量标 准的选择。并非由聚类分析算法得到的类对决策都有效， 在运用某一 个算法之前，一般要先对数据的聚类趋势进行检验。

决策树学习是一种通过逼近离散值目标函数的方法， 通过把实例 从根结点排列到某个叶子结点来分类实例， 叶子结点即为实例所属的 分类。树上的每个结点说明了对实例的某个属性的测试， 该结点的每 一个后继分支对应于该属性的一个可能值， 分类实例的方法是从这电 脑应用技术棵树的根结点开始，测试这个结点指定的属性，然后按照 给定实例的该属性值对应的树枝向下移动。 决策树方法是要应用于数 据挖掘的分类方面。

神经网络建立在自学习的数学模型基础之上， 能够对大量复杂的 数据进行分析，并可以完成对人脑或其他计算机来说极为复杂的模式 抽取及趋势分析，神经网络既可以表现为指导的学习也可以是无指导 聚类，无论哪种，输入到神经网络中的值都是数值型的。

人工神经元网络模拟人脑神经元结构， 以MP模型和Hebb学习规 则为基础，建立三大类多种神经元网络，具有非线形映射特性、信息 的分布存储、并行处理和全局集体的作用、高度的自学习、自组织和 自适应能力的种种优点。前馈神经元网络以感知器网络、 BP网络等

为

代表，可以用于分类和预测等方面；反馈式网络以Hopfield网络 为代表，用于联想记忆和优化计算；自组织网络以ART模型、Kohonon 模型实用标准文案

精彩文档

为代表，用于聚类。

遗传算法是一种受生物进化启发的学习方法， 通过变异和重组当 前己知的最好假设来生成后续的假设。 每一步，通过使用目前适应性 最高的假设的后代替代群体的某个部分，来更新当前群体的一组假设， 来实现各个个体的适应性的提高。遗传算法由三个基本过程组成 ：繁

殖（选择）是从一个旧种群（父代）选出生命力强的个体，产生新种群

（后代）的过程；交叉〔重组）选择两个不同个体〔染色体）的部分（基因） 进行交换，形成新个体的过程；变异（突变）是对某些个体的某些基因 进行变异的过程。在数据挖掘中，可以被用作评估其他算法的适合度。

粗糙集能够在缺少关于数据先验知识的情况下， 只以考察数据的 分类能力为基础，解决模糊或不确定数据的分析和处理问题。粗糙集 用于从数据库中发现分类规则的基本思想是将数据库中的属性分为 条件属性和结论属性，对数据库中的元组根据各个属性不同的属性值 分成相应的子集，然后对条件属性划分的子集与结论属性划分的子集 之间上下近似关系生成判定规则。所有相似对象的集合称为初等集合， 形成知识的基本成分。任何初等集合的并集称为精确集，否则，一个 集合就是粗糙的（不精确的）。每个粗糙集都具有边界元素，也就是那 些既不能确定为集合元素，也不能确定为集合补集元素的元素。 粗糙 集理论可以应用于数据挖掘中的分类、发现不准确数据或噪声数据内 在的结构联系。

支持向量机（SVM）是在统计学习理论的基础上发展出来的一种新

的机器学习方法。它基于结构风险最小化原则上的， 尽量提高学习机 的泛化能力，具有良好的推广性能和较好的分类精确性， 能有效的解 决过实用标准文案

精彩文档

学习问题，现已成为训练多层感知器、RBF神经网络和多项式神 经元网络的替代性方法。另外，支持向量机算法是一个凸优化问题， 局部最优解一定是全局最优解，这些特点都是包括神经元网络在内的 其它算法所不能及的。支持向量机可以应用于数据挖掘的分类、回归、 对未知事物的探索等方面。

除上述方法外，还有把数据与结果转化和表达成可视化技术、云 模型方法和归纳逻辑程序等方法。 事实上，任何一种挖掘工具往往

是根据具体问题来选择合适挖掘方法， 很难说哪种方法好，那种方法

劣，而是视具体问题而定。对于数据挖掘，我们可以分为三个主要的 阶段：数据准备、数据挖掘、结果的评价和表达。其中结果的评价和 表达还可以细分为：评估、解释模式模型、巩固、

运用知识。数据库中的知识发现是一个多步骤的处理过程， 也是 这三个阶段的反复过程，

1.数据准备

KDD勺处理对象是大量的数据，这些数据一般存储在数据库系统

中，长期积累的结果。

但是往往不适合直接在这些数据上面进行知识挖掘，需要做数据 准备工作，一般包括数据的选择（选择相关的数据）、净化（消除噪音、 数据）、推测（推算缺失数据）、转换（离散值数据与连续值数据之间的 相互转换，数据值的分组分类，数据项之间的计算组合等 ）、数据缩

减（减少数据量）。这些工作往往在生成数据仓库时己经准备妥当。 数

据准备是KDD勺第一个步骤。数据准备是否做好将影响到数据挖掘的 效率实用标准文案

精彩文档

和准确度以及最终模式的有效性。

2. 数据挖掘

数据挖掘是KDD最关键的步骤，也是技术难点所在。研究KDD的 人员中大部分都在研究数据挖掘技术， 采用较多的技术有决策树、分 类、聚类、粗糙集、关联规则、神经网络、遗传算法等。数据挖掘根 据KDD的目标，选取相应算法的参数，分析数据，得到可能型号层知 识的模式模型。

3. 结果评价和表达

评估、解释模式模型：上面得到的模式模型，有可能是没有实际 意义或没有使用价值的，也有可能是其不能准确反映数据的真实意义， 甚至在某些情况下是与事实相反的，因此需要评估，确定哪些是有效 的、有用的模式。评估可以根据用户多年的经验，有些模式也可以直 接用数据来检验其准确性。这个步骤还包括把模式以易于理解的方式 呈现给用户。 巩固知识：用户理解的、并被认为是符合实际和有价 值的模式模型形成了知识。同时还要注意对知识做一致性检查，解决 与以前得到的知识相互冲突、矛盾的堤防，使知识得到巩固。

运用知识：发现知识是为了运用，如何使知识能被运用也是 KDD

的步骤之一。运用知识有两种方法：一种是只需要看知识本身所描述 的关系或结果，就可以对决策提供支持；另一种是要求对新的数据运 用知识，由此可能产生新的问题，而需要对知识做进一步的优化。KDD 的过程可能需要多次的循环反复，每一个步骤一旦与预期目标不符都 要回到前面的步骤，重新调整，重新执行。