下载文档原格式
知识发现定义：知识发现（KDD：Knowledge Discovery in Databases）是他是从大量的、不完整的、有噪声的、模糊的和随机的数据中，提取隐含在其中的、人们事先不知道的、但又是可信的、潜在的和有价值的信息和知识的过程。
知识发现将信息变为知识，从数据矿山中找到蕴藏的知识金块，将为知识创新和知识经济的发展作出贡献。
知识发现与数据挖掘的关系：数据挖掘（Data Mining），就是从海量的数据中挖掘出隐含在其中的矿藏——知识。
一般认为广义的数据挖掘又称数据库中的知识发现（Knowledge Discovery in Database），简称知识发现（KDD）。
狭义的数据挖掘是一个利用各种分析工具在海量数据中发现模型和数据关系之间关系的过程，是知识发现过程的一个步骤，一个完整的知识发现过程如图所示：从图可见，数据挖掘只是只是发现过程中一个发现模式的子过程，并且是最核心的过程。
知识发现的过程模型：KDD基本过程(the process of the KDD)完成从大型源数据中发现有价值知识的过程可以简单概括为：首先从数据源中抽取出感兴趣的数据，并把它组织成适合挖掘的数据组织形式；然后调用相应的算法生成所需要的知识；最后对生成的知识模式进行评估，并把有价值的知识集成到企业的智能系统中。
作为一个KDD的工程而言,KDD通常包含一系列复杂的挖掘步骤.Fayyad,Piatetsky-Shapiro 和Smyth 在 1996年合作发布的论文<From Data Mining to knowledge discovery>中总结出了KDD包含的5个最基本步骤.1: selection: 在第一个步骤中我们往往要先知道什么样的数据可以应用于我们的KDD工程中.2: pre-processing: 当采集到数据后,下一步必须要做的事情是对数据进行预处理,尽量消除数据中存在的错误以及缺失信息.3: transformation: 转换数据为数据挖掘工具所需的格式.这一步可以使得结果更加理想化.4: data mining: 应用数据挖掘工具.5: interpretation/evaluation: 了解以及评估数据挖掘结果.2.常用KDD过程模型 (KDD process model)随着Fayyad,Piatetsky-Shapiro 和Smyth 在 1996年总结出的KDD 5个基本步骤, 各种不同的KDD过程模型在此基础上发展以及完善起来.整体来说,KDD过程模型包含"学术模型"(academic research model)以及"工业模型"(industrial model)两大类. 常见的KDD过程模型有: 1996 年Fayyad等人提出的 "9 步骤模型"(nine-steps model). 1999 年european commission 机构起草的CRISP-DM 模型. (cross-industry standard process for data mining)“7步骤模型”KDD过程模型：1.目标定义2.创建目标数据集3.数据预处理4.数据转换5.数据挖掘CRISP-DM（cross-industry standard process for data mining跨行业数据挖掘过程标准）：CRISP-DM 模型为一个KDD工程提供了一个完整的过程描述.该模型将一个KDD工程分为6个不同的,但顺序并非完全不变的阶段.1:business understanding: 即商业理解. 在第一个阶段我们必须从商业的角度上面了解项目的要求和最终目的是什么. 并将这些目的与数据挖掘的定义以及结果结合起来.2.data understanding: 数据的理解以及收集,对可用的数据进行评估. 3:data preperation: 数据的准备,对可用的原始数据进行一系列的组织以及清洗,使之达到建模需求.4:modeling: 即应用数据挖掘工具建立模型.5:evaluation: 对建立的模型进行评估,重点具体考虑得出的结果是否符合第一步的商业目的.6:deployment: 部署,即将其发现的结果以及过程组织成为可读文本形式.(数据挖掘报告)参考文献：2.纪希禹主编.数据挖掘技术应用实例[M].机械工业出版社，2009.1. Richard J.Roiger，Michael W.Geatz.DATA MINING A TUTORIAL-BASED PRIMER[M].清华大学出版社，2003.3.毛国君，段立娟，王实，石云.数据挖掘原理与算法（第二版）[M].清华大学出版社，2007.。
1、数据库与数据仓库的对比数据库 数据仓库面向应用 面向主题数据是详细的 数据是综合和历史的保持当前数据 保存过去和现在的数据数据是可更新的 数据不更新对数据的操作是重复的 对数据的操作是启发式的操作需求是事先可知的 操作需求是临时决定的一个操作存取一个记录 一个操作存取一个集合数据非冗余 数据时常冗余操作比较频繁 操作相对不频繁查询基本是原始数据 查询基本是经过加工的数据事务处理需要的是当前数据 决策分析需要过去和现在的数据很少有复杂的计算 有很多复杂的计算支持事务处理 支持决策分析2、OLTP与OLAP，OLTP）是在网络环境下的事务处理工作，以快速的响应和频繁联机事物处理（On Line Transaction Processing的数据修改为特征，使用户利用数据库能够快速地处理具体的业务。
OLTP OLAP数据库数据 数据仓库数据细节性数据 综合性数据当前数据 历史数据经常更新 不更新，但周期刷新对响应时间要求高 响应时间合理用户数量大用户数量相对较小面向操作人员，支持日常操作 面向决策人员，支持决策需要面向应用，事务驱动面向分析，分析驱动3、数据字典和元数据：数据字典：是数据库中各类数据描述的集合，它在数据库设计中具有很重要的地位。
由：数据项；数据结构；数据流；数据存储；处理过程5部分组成。
元数据（metadata）定义为关于数据的数据（data about data），即元数据描述了数据仓库的数据和环境。
数据仓库的元数据除对数据仓库中数据的描述（数据仓库字典）外，还有以下三类元数据 ：(1) 关于数据源的元数据(2) 关于抽取和转换的元数据(3) 关于最终用户的元数据4、数据从数据库到知识的流程：DB-->DW-->OLAP-->DM-->KDD-->DSS-->AI5、数据挖掘的含义：知识发现（KDD）：从数据中发现有用知识的整个过程。
数据挖掘（DM）：KDD过程中的一个特定步骤，它用专门算法从数据中抽取知识。
前期基础课程：数据库、人工智能参考书：《知识发现》，清华大学出版社，史忠植编，2004第1章概述随着信息社会和知识经济时代的来临，信息正以前所未有的速度膨胀。
面对浩如烟海的信息资源，人类的自然智能越来越显得难于驾驭。
如何用人造的智能去模仿和扩展人类的自然智能，实现信息的智能化处理，是信息社会和知识经济所面临的一个重大课题。
人工智能作为一门研究机器（计算机）智能的学科，其目的是要用人工的方法和技术，研制智能机器或智能系统，来模仿、延伸和拓展人的智能。
因此，人工智能是人类迈向信息、迎接知识经济挑战所必须具备的一项核心技术。
难怪有人把人工智能同原子能技术、空间技术一起称为20世纪的三大尖端科技成就。
但人工智能系统较率低，不能应用于实际。
随着计算机、Internet的普及，以及数据库（DB）技术的迅速发展和数据库管理系统（DBMS）的广泛应用，导致许多领域积累了海量数据（如，从普通的超市业务数据、信用卡记录数据、电话呼叫清单、政府统计数据到不太普通的天体图像、分子数据库和医疗记录等）。
现有的DB技术大多可高效地实现数据查询、统计和维护等管理功能，但却无法发现数据中存在的关联和规则，无法根据现有的数据预测未来的发展趋势。
数据库中存在着大量数据，却缺乏从这些数据中自动、高效地获取知识的手段，出现了“数据丰富，知识贫乏”的现象。
此外，在数据操纵方面：信息的提取及其相关处理技术却远远落后。
为此，针对庞大的数据库及其中的海量数据信息源，仅依靠传统的数据检索机制和统计分析方法已远不能满足需要。
需求是发展之母，数据管理系统（DBMS）和人工智能中机器学习两种技术的发展和结合，促成了在数据库中发现知识这一新技术的诞生，即基于数据库知识发现（Knowledge Discovery in Database,KDD）及其核心技术---数据挖掘产生并迅速发展起来。
它的出现为自动和智能地把海量数据转化成有用的信息和知识提供了手段。
知识发现与数据挖掘2007-6-12宋利【摘要】本文介绍了知识发现及其数据挖掘的发展历史，数据挖掘常用技术及应用。
【关键词】知识发现，数据挖掘１、引言随着数据库技术的成熟和数据应用的普及，人类积累的数据量正在以指数速度迅速增长。
进入九十年代，伴随着因特网（Internet）的出现和发展，以及随之而来的企业内部网（Intranet）和企业外部网（Extranet）以及虚拟私有网（VPNVirtualPrivatenetwork）的产生和应用，将整个世界联成一个小小的地球村，人们可以跨越时空地在网上交换数据信息和协同工作。
这样，展现在人们面前的已不是局限于本部门，本单位和本行业的庞大数据库，而是浩瀚无垠的信息海洋,数据洪水正向人们滚滚涌来。
当数据量极度增长时,如果没有有效的方法,由计算机及信息技术来提取有用信息和知识，人们也会感到面对信息海洋像大海捞针一样束手无策。
据估计，一个大型企业数据库中数据，只有百分之七得到很好应用。
这样，相对于“数据过剩”和“信息爆炸”,人们又感到“信息贫乏”（Informationpoor）和数据关在牢笼中”(datainjail)，奈斯伯特(JohnNaisbett)惊呼“Wearedrowningininformation，butstarvingforknowledge”（人类正被数据淹没，却饥渴于知识）。
面临浩渺无际的数据，人们呼唤从数据汪洋中来一个去粗存精、去伪存真的技术。
从数据库中发现知识(KDD)及其核心技术——数据采掘(DM)便应运而生了。
２、知识发现过程知识发现（KDD）是从数据中发现有用知识的整个过程；数据开采（DM）是KDD过程中的一个特定步骤，它用专门算法从数据中抽取模式（patterns）。
1996年，Fayyad、PiatetskyShapiror和Smyth将KDD过程定义为：从数据中鉴别出有效模式的非平凡过程，该模式是新的、可能有用的和最终可理解的。
一、解答题（满分30分，每小题5分)1。
怎样理解数据挖掘和知识发现的关系？请详细阐述之首先从数据源中抽取感兴趣的数据，并把它组织成适合挖掘的数据组织形式；然后，调用相应的算法生成所需的知识;最后对生成的知识模式进行评估，并把有价值的知识集成到企业的智能系统中。
知识发现是一个指出数据中有效、崭新、潜在的、有价值的、一个不可忽视的流程,其最终目标是掌握数据的模式.流程步骤：先理解要应用的领域、熟悉相关知识,接着建立目标数据集，并专注所选择的数据子集;再作数据预处理，剔除错误或不一致的数据;然后进行数据简化与转换工作；再通过数据挖掘的技术程序成为模式、做回归分析或找出分类模型；最后经过解释和评价成为有用的信息。
2。
时间序列数据挖掘的方法有哪些，请详细阐述之时间序列数据挖掘的方法有：1）、确定性时间序列预测方法:对于平稳变化特征的时间序列来说，假设未来行为与现在的行为有关，利用属性现在的值预测将来的值是可行的。
例如，要预测下周某种商品的销售额，可以用最近一段时间的实际销售量来建立预测模型.2）、随机时间序列预测方法：通过建立随机模型，对随机时间序列进行分析,可以预测未来值。
若时间序列是平稳的，可以用自回归（Auto Regressive，简称AR）模型、移动回归模型(Moving Average,简称MA）或自回归移动平均(Auto Regressive Moving Average,简称ARMA)模型进行分析预测.3）、其他方法：可用于时间序列预测的方法很多，其中比较成功的是神经网络。
由于大量的时间序列是非平稳的，因此特征参数和数据分布随着时间的推移而变化。
假如通过对某段历史数据的训练，通过数学统计模型估计神经网络的各层权重参数初值,就可能建立神经网络预测模型，用于时间序列的预测.3. 数据挖掘的分类方法有哪些，请详细阐述之分类方法归结为四种类型：1）、基于距离的分类方法:距离的计算方法有多种,最常用的是通过计算每个类的中心来完成，在实际的计算中往往用距离来表征，距离越近,相似性越大，距离越远，相似性越小。
知识发现与数据挖掘技术研究随着信息时代的到来，数据资源的爆炸性增长和复杂性不断提高，如何从中发现规律、提取知识已成为了重要的研究方向。
知识发现与数据挖掘技术应运而生，并逐渐形成了一个独立的学科领域。
本文将从几个方面介绍该领域的研究内容和应用价值。
一、知识发现与数据挖掘技术的定义和研究内容知识发现与数据挖掘技术指的是利用计算机科学、人工智能、数学、统计学等相关学科的理论和方法，通过对数据进行分析、处理、抽象、归纳、推理等操作，从中发现隐藏在数据背后的关联规律、趋势、模型等有价值的知识。
具体来说，知识发现与数据挖掘技术主要包括以下几个方面的研究内容：1.数据预处理：对原始数据进行清洗、过滤、整合、变换等操作，使其符合后续处理的需求。
2.数据挖掘算法：常见的数据挖掘算法包括聚类分析、关联规则挖掘、决策树、人工神经网络、支持向量机等。
3.知识表示和表达：将挖掘出的知识进行表达，如规则、分类器、模型等。
4.知识评估和验证：对挖掘出的知识进行评估和验证，如准确性、可靠性、可解释性等。
二、知识发现与数据挖掘技术的应用领域知识发现与数据挖掘技术广泛应用于各个领域，其中几个典型的应用领域如下。
1.商业领域：数据挖掘技术被广泛应用于市场营销、客户关系管理、风险管理、供应链管理等方面，帮助企业更好地了解市场需求、优化业务流程、降低运营风险。
2.医疗领域：利用数据挖掘技术可以对医疗数据进行分析和挖掘，从而实现疾病预测、病人群体分类、药物评价等目的，提高医疗服务质量和效率。
3.网络安全领域：数据挖掘技术可以用于网络异常检测、恶意代码分析、入侵检测等方面，帮助企业和政府机构预防和应对网络攻击和信息安全威胁。
4.社交网络领域：社交网络中包含了巨量的用户信息和社交关系，利用数据挖掘技术可以从中挖掘用户兴趣、影响力、社交关系等信息，为营销、推广、舆情监控等提供有力支持。
三、知识发现与数据挖掘技术的研究趋势和挑战在不断发展的知识发现与数据挖掘技术领域，有一些趋势和挑战值得关注。
论空间数据挖掘和知识发现李德仁1王树良1史文中2王新洲3(1武汉大学测绘遥感信息工程国家重点实验室,武汉市珞喻路129号,430079)(2香港理工大学土地测量与地理资讯学系,香港,九龙红石勘(3武汉大学科技部,武汉市珞珈山,430072)了将数据的最大价值挖掘出来,以取得最多的知识,1989年在美国底特律召开的第一届KDD(knowledge discovery from databases)国际学术会议上,又出现了一门称为从数据库中发现知识(即KDD)的新学科,从数据库中发现先前未知却有用的知识,为决策分析提供技术支持。
GPS、RS和GIS等技术的应用和发展,使空间数据的膨胀速度远远超出了常规的事务型数据,“数据爆炸但知识贫乏”的现象在空间数据中更为严重。
1994年在加拿大渥太华举行的GIS国际会议上,李德仁院士首次提出了从GIS数据库中发现知识———KDG(knowledge discovery from GIS)的概念。
他系统分析了空间知识发现的特点和方法,认为从GIS数据库中可以发现包括几何特征、空间关系和面向对象的多种知识,KDG能够把GIS有限的数据变成无限的知识,可以精练和更新GIS数据,使GIS成为智能化的信息系统,并第一次从GIS空间数据中发现了用于指导GIS空间分析的知识[1]。
1995年,在加拿大召开的第一届知识发现和数据挖掘国际学术会议上,数据库中的数据被形象地喻为矿床,再次出现了崭新的数据挖掘(data mining,DM,又译为数据发掘、数据开采或数据采掘等)学科。
随着研究和应用的深入,人们对KDD和DM的理解越来越全面,相继又出现了知识提取(knowledge extraction)、信息发现(informationdiscovery)、信息收获(information harvesting)、数据考古(data archaeology)等含义相同或相似的名称。
具体名称虽然不同,但其本质是相同的,都是从数据库中提取事先未知却有用的知识。
