数据挖掘的应用现状及发展
- 格式:doc
- 大小:56.50 KB
- 文档页数:15
- -
- -可修编-
数据挖掘与数据仓库
学校:
班级:
学号:
XX:
指导教师:
日期:2021 年 6 月 16 日
- -
- -可修编- 数据挖掘的应用现状及开展
目录
目录 ................................................................... 2
引言 ................................................................... 3
根本概念 ............................................................. 3
数据挖掘对象 ........................................................ 6
一般过程 ............................................................. 6
主要技术及方法 ..................................................... 7
应用的领域 ........................................................... 8
当前国际现状 ....................................................... 10
当前国内现状 ....................................................... 11
存在的问题 ..........................................................
12
促进数据挖掘在中国开展的建议12
开展趋势 ............................................................ 14
小结 .................................................................. 15
参考书籍 ............................................................ 15
- -
- -可修编- 引言近十几年来,随着数据库系统的广泛流行以及计算机技术的快速开展,人们利用信息技术生产和搜集数据的能力大幅度提高。千万个数据库被用于商业管理、政府办公、科学研究和工程开发等,特别是网络系统的流行,使得信息爆炸性增长。这一趋势将持续开展下去。大量信息在给人们带来方便的同时也带来了一大堆的问题:第一是信息过量,难以消化;第二是信息真假难以识别;第三是信息平安难以保证;第四是信息形式不一致,难以统一处理。面对这种状况,一个新的挑战被提出来:如何才能不被信息的汪洋大海所淹没,从中及时发现有用的知识,提高信息利用率呢?这时出现了新的技术——数据挖掘〔Data Mining〕技术便应用而生了。数据挖掘是信息技术的进化,其研究的目的主要是发现知识、使数据可视化、纠正数据。
中国科研工作者近几年来积极开展了对数据挖掘的研究,并在理论研究和实际应用上取得了一定的成绩,但是有关数据挖掘的成功应用还比拟少。本文具体分析了国内外数据挖掘的开展现状和趋势,
发现了其存在的问题,并且对其的理论研究和实际应用提出了一些建议。
根本概念
1、数据挖掘
数据挖掘(Data Mining)就是从大量的、不完全的、有噪声的、模糊的、随机的数据中,提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程。这些数据可以是构造化的,如关系数据库- -
- -可修编- 中的数据,也可以是半构造化的,如文本,图形,图像数据,甚至是分布在网络上的异构型数据。发现知识的方法可以是数学的,也可以是非数学的,可以是演绎的,也可以是归纳的。发现了的知识可以被用于信息管理、查询优化、决策支持、过程控制等,还可以进展数据自身的维护。数据挖掘借助了多年来数理统计技术和人工智能以及知识工程等领域的研究成果构建自己的理论体系,是一个穿插学科领域,可以集成数据数据库、人工智能、数理统计、可视化、并行计算等技术。
2、数据挖掘技术
数据挖掘就是对观测到的数据集进展分析,目的是发现未知的关系和以数据拥有者可以理解并对其有价值的新颖方式来总结数据。它利用各种分析方法和分析工具在大规模海量数据中建立模型和发现数据间关系的过程,这些模型和关系可以用来做出决策和预测。
3、数据挖掘功能
数据挖掘通过预测未来趋势及行为,做出预测性的、基于知识的决策。数据挖掘的目标是从数据库中发现隐含的、有意义的知识,按其功能可分为以下几类:
〔1〕关联分析〔Association Analysis〕
关联分析能寻找到数据库中大量数据的相关联系,常用的一种
技术为关联规那么和序列模式。关联规那么是发现一个事物与其他事物间的相互关联性或相互依赖性。
〔2〕聚类 - -
- -可修编- 输入的数据并无任何类型标记,聚类就是按一定的规那么将数据划分为合理的集合,即将对象分组为多个类或簇,使得在同一个簇中的对象之间具有较高的相似度,而在不同簇中的对象差异很大。聚类增强了人们对客观现实的认识,是概念描述和偏差分析的先决条件。聚类技术主要包括传统的模式识别方法和数学分类学。
〔3〕自动预测趋势和行为
数据挖掘自动在大型数据库中进展分类和预测,寻找预测性信息,自动地提出描述重要数据类的模型或预测未来的数据趋势,这样以往需要进展大量手工分析的问题如今可以迅速直接由数据本身得出结论。。
〔4〕概念描述
对于数据库中庞杂的数据,人们期望以简洁的描述形式来描述聚集的数据集。概念描述就是对某类对象的内涵进展描述并概括出这类对象的有关特征。概念描述分为特征性描述和区别性描述,前者描述某类对象的共同特征,后者描述不同类对象之间的区别。生成一个类的特征性只涉及该类对象中所有对象的共性。生成区别性描述的方法很多,如决策树方法、遗传算法等。
〔5〕偏差检测
数据库中的数据常有一些异常记录,从数据库中检测这些偏差很有意义。偏差包括很多潜在的知识,如分类中的反常实例、不满足规那么的特例、观测结果与模型预测值的偏差、量值随时间的变化等。偏差检测的根本方法是寻找观测结果与参照值之间有意义的差异。这- -
- -可修编- 常用于金融银行业中检测欺诈行为,或市场分析中分析特殊消费者的消费习惯。
数据挖掘对象
数据挖掘的对象主要是数据库数据、数据仓库数据和事务数据。随着数据挖掘技术的开展,逐步进入到空间数据库,时态数据库,文本数据库,多媒体数据库,环球网WEB等。文字、音频、图象、视频等多媒体数据已逐渐成为信息领域的重要表现形式。音频、视频的数据量很大,要从千万计的多媒体数据中找出需要的数据和信息是很困难的。目前,对多媒体数据的处理只能在存取,编辑,集成,快进快退等根本操作上,对多媒体信息的检索仅靠文件标识、关键字等进展检索,局限性很大。目前兴起的基于内容的多媒体检索,通过实例的查询方式,检索相似图象,音频,视频信息,基于内容的音频、视频信息的聚类、分类、相似查询等,已成为研究的热点。
一般过程
数据挖掘的过程就是知识发现的过程,其所能发现的知识有如下几种:广义型知识,反映同类事物共同性质的知识;特征型知识,反映事物各方面的特征知识;差异型知识,反映不同事物之间属性差异的知识;关联型知识,反映事物之间依赖或关联的知识;预测型知识,根据历史的和当前的数据推测未来数据;偏离型知识,提醒事物偏离常规的异常现象。所有这些知识都可以在不同的概念层次上被发现,随着概念树的提升,从微观到中观再到宏观,以满足不同用户、不同- -
- -可修编- 层次决策的需要。
知识发现过程由以下步骤的迭代序列组成:
1、数据清理:消除噪声和删除不一致数据;
2、数据集成:多种数据源可以组合在一起;
3、数据选择:从数据库中提取与分析任务相关的数据;
4、数据变换:通过汇总或聚集操作,把数据变换和统一成适合挖掘
的形式;
5、数据挖掘:根本步骤,使用智能方法提取数据模式;
6、模式评估:根据某种兴趣度度量,识别代表知识的真正有趣的模式;
7、知识表示:使用可视化和知识表示技术,向用户提供挖掘的知识。
主要技术及方法
1、统计学:研究数据的收集、分析、解释和表示。
2、机器学习:考察计算机如何基于数据数据学习。其主要研究领域之一是,计算机程序基于数据自动的学习识别复杂的模式,并做出智能决断。
3、数据库系统与数据仓库:〔1〕数据库系统研究关注为单位和最终用户创立、维护和使用数据库;〔2〕数据仓库集成来自多种数据源和各个时间段的数据。
4、信息检索:搜索文档或文档XX息的科学。
- -
- -可修编- 应用的领域
数据挖掘已在各个部门得到广泛的应用,并收到明显的效益。下表是摘自Kdnuggets.的关于常用数据挖掘技术应用领域的一份调查。
Banking (37) 13%
Bioinformatics/Biotech (27) 10%
Direct Marketing/Fundraising (29) 10%