下载文档原格式
由于数据库系统所获数据量的迅速膨胀（已达 或 数量级），从而导致了现实世界数据库中常常包含许多含有噪声、不完整（ ）、甚至是不一致（ ）的数据。
显然对数据挖掘所涉及的数据对象必须进行预处理。
那么如何对数据进行预处理以改善数据质量,并最终达到完善最终的数据挖掘结果之目的呢？数据预处理主要包括:数据清洗（ ）、数据集成（ ）、数据转换（ ）和数据消减（ ）。
本章将介绍这四种数据预处理的基本处理方法。
数据预处理是数据挖掘（知识发现）过程中的一个重要步骤，尤其是在对包含有噪声、不完整，甚至是不一致数据进行数据挖掘时，更需要进行数据的预处理，以提高数据挖掘对象的质量，并最终达到提高数据挖掘所获模式知识质量的目的。
例如：对于一个负责进行公司销售数据分析的商场主管，他会仔细检查公司数据库或数据仓库内容，精心挑选与挖掘任务相关数据对象的描述特征或数据仓库的维度（ ），这包括：商品类型、价格、销售量等,但这时他或许会发现有数据库中有几条记录的一些特征值没有被记录下来；甚至数据库中的数据记录还存在着一些错误、不寻常（ ）、甚至是不一致情况,对于这样的数据对象进行数据挖掘,显然就首先必须进行数据的预处理,然后才能进行正式的数据挖掘工作。
所谓噪声数据是指数据中存在着错误、或异常（偏离期望值）的数据；不完整（ ）数据是指感兴趣的属性没有值；而不一致数据则是指数据内涵出现不一致情况（如：作为关键字的同一部门编码出现不同值）。
而数据清洗是指消除数据中所存在的噪声以及纠正其不一致的错误；数据集成则是指将来自多个数据源的数据合并到一起构成一个完整的数据集；数据转换是指将一种格式的数据转换为另一种格式的数据；最后数据消减是指通过删除冗余特征或聚类消除多余数据。
不完整、有噪声和不一致对大规模现实世界的数据库来讲是非常普遍的情况。
不完整数据的产生有以下几个原因：（ ）有些属性的内容有时没有，如：参与销售事务数据中的顾客信息；（ ）有些数据当时被认为是不必要的；（ ）由于误解或检测设备失灵导致相关数据没有记录下来；（ ）与其它记录内容不一致而被删除；（ ）历史记录或对数据的修改被忽略了。
1.1什么是数据挖掘？（a）它是一种广告宣传吗？（d）它是一种从数据库、统计学、机器学和模式识别发展而来的技术的简单转换或应用吗？（c）我们提出一种观点，说数据挖掘是数据库进化的结果，你认为数据挖掘也是机器学习研究进化的结果吗？你能结合该学科的发展历史提出这一观点吗？针对统计学和模式知识领域做相同的事（d）当把数据挖掘看做知识点发现过程时，描述数据挖掘所涉及的步骤答：数据挖掘比较简单的定义是：数据挖掘是从大量的、不完全的、有噪声的、模糊的、随机的实际数据中，提取隐含在其中的、人们所不知道的、但又是潜在有用信息和知识的过程。
数据挖掘不是一种广告宣传，而是由于大量数据的可用性以及把这些数据变为有用的信息的迫切需要，使得数据挖掘变得更加有必要。
因此，数据挖掘可以被看作是信息技术的自然演变的结果。
数据挖掘不是一种从数据库、统计学和机器学习发展的技术的简单转换，而是来自多学科，例如数据库技术、统计学，机器学习、高性能计算、模式识别、神经网络、数据可视化、信息检索、图像和信号处理以及空间数据分析技术的集成。
数据库技术开始于数据收集和数据库创建机制的发展，导致了用于数据管理的有效机制，包括数据存储和检索，查询和事务处理的发展。
提供查询和事务处理的大量的数据库系统最终自然地导致了对数据分析和理解的需要。
因此，出于这种必要性，数据挖掘开始了其发展。
当把数据挖掘看作知识发现过程时，涉及步骤如下：数据清理，一个删除或消除噪声和不一致的数据的过程；数据集成，多种数据源可以组合在一起；数据选择，从数据库中提取与分析任务相关的数据；数据变换，数据变换或同意成适合挖掘的形式，如通过汇总或聚集操作；数据挖掘，基本步骤，使用智能方法提取数据模式；模式评估，根据某种兴趣度度量，识别表示知识的真正有趣的模式；知识表示，使用可视化和知识表示技术，向用户提供挖掘的知识1.3定义下列数据挖掘功能：特征化、区分、关联和相关性分析、分类、回归、聚类、离群点分析。
《知识发现与数据挖掘》教学大纲Knowledge Discovery and Data Mining第一部分大纲说明1. 课程代码：1030812082. 课程性质：专业非学位课3. 学时/学分：20/24. 课程目标和任务：数据挖掘是一门新兴的交叉性学科，在很多重要领域，数据挖掘技术发挥着重要作用，如地球科学领域、矿业工程领域、生物工程工程、商业领域、金融和保险领域等。
本课程课程主要讲授数据挖掘技术的基本原理、方法、算法，具体包括：数据挖掘技术内涵、数据特征、聚类分析，关联规则分析、分类等，以及数据挖掘技术在地矿领域的应用。
通过本课程的学习，使研究生掌握数据挖掘技术的基本原理、方法和算法，了解数据挖掘技术的研究与应用热点、数据挖掘技术能够解决的问题和今后研究与应用的发展方向，以及如何利用数据挖掘技术解决实际问题。
5. 教学方式：课堂教学6. 考核方式：考查7. 先修课程：掌握一定的计算机基础知识9. 教材及教学参考资料：（一）教材：Pang-Ning Tan, Michael Steinbach and Vipin Kumar.《Introduction to Data Mining》，北京:人民邮电出版社，2006（二）教学参考资料：Jia-Wei Han and Micheline Kamber.《数据挖掘概念与技术》，北京：机械工业出版社，2003第二部分教学内容和教学要求第一章数据挖掘概述1.1 教学目的与要求重点讲解数据挖掘的起源、数据挖掘过程与功能，以及面临的主要问题。
1.2 教学内容理解和掌握数据挖掘的基本概念、数据挖掘过程以及数据挖掘功能；了解数据挖掘的应用和面临的问题；重点是对数据挖掘能够解决的问题和解决问题思路有清晰的认识。
1.2.1 什么是数据挖掘数据挖掘（Data Mining）就是从大量的、不完全的、模糊的、随机的实际应用数据中，提取隐含在其中的、事先不知道的但又是潜在有用的信息和知识的过程。
第二章数据挖掘过程与知识发现第一节 CRISP_DM介绍跨行业数据挖掘标准流程被行业成员广泛应用，这一模型包括以下六个阶段：一、业务理解：业务理解包括确定商业对象、了解现状、建立数据挖掘目标和制定计划书。
应该是对数据挖掘的目标有一个清晰的认识，知道利润所在，其中包括数据收集、数据分析和数据报告等步骤。
二、数据理解：一旦商业对象和计划书确定完备，数据理解就考虑将所需要的数据。
这一过程包括原始数据收集、数据描述、数据探索和数据质量核查等。
由于数据挖掘是目标导向的，不同的商业目的需要不同的数据系列。
数据挖掘的第一步是从许多可供使用的数据库中筛选相关数据，来正确描述研究问题；即对问题进行简单描述；识别问题的相关数据；所选择的变量要相互独立，变量独立意味着不涵盖重复信息。
三、数据准备：确定可用的数据资源以后，需要对此进行筛选、清理、调整为所需要的形式。
数据整理和数据转换等数据建模的准备工作需要在这一阶段完成。
更深层次的数据探索也可以在这一阶段进行，新增模型的应用再次提供了在业务理解基础上看清楚数据模式的机会。
数据预先处理：1、噪声问题和缺失问题a)数据重复b)数值错误c)数据缺失2、数据的变换a)数据类型的变换b)数据的平滑c)数据的概化d)数据的规范化十进制缩放：将某个数据全部除以10的相同的幂通过极值来转化：新数据=（原数据-最小数值）/（最大数值-最小数值）通过均值和标准差来转化：新数据=（原数据-均值）/标准差通过对数来转化：对每个数据经过自然对数进行数据转换，例如下面的转换可以把数据转换到0-1之间： O=1/(1+exp(-x))四、建立模型：数据模型建立是应用数据挖掘软件不不同的情景下获得结果的过程。
首先往往是聚类分析和数据视觉探究。
依据数据挖掘类型的不同，应用各种不同的模型，如果任务是对数据分组，则运用判别分析；如果任务是估计，在连续数据类型的情况下，回归分析就可以运用，对于不连续的数据则可以运用逻辑回归分析，神经网络技术对两者都是可以的。
