下载文档原格式
《数据挖掘》复习提纲第一章数据挖掘概述1、什么是数据挖掘从大量数据中挖掘有用的知识2、数据挖掘的动机数据丰富，信息贫乏3、数据挖掘的同义词从数据中挖掘知识,知识提炼,数据/模式分析,数据考古,数据捕捞、信息收获、资料勘探等等4、知识发现的过程1.数据清理2.数据集成3.数据选择4.数据变换5.数据挖掘6.模式评估7.知识表示5、数据挖掘和知识发现是一回事吗？数据挖掘是知识发现过程的一个步骤6、数据挖掘可以挖掘的两类模式？描述性的数据挖掘，预测性的数据挖掘7、常用的数据挖掘技术？概念/类描述: 特性化和区分,挖掘频繁模式、关联和相关,分类和预,聚类分析,离群点（孤立点）分析,趋势和演变分析8、什么是离群点？离群点总是被抛弃的吗？离群点:一些与数据的一般行为或模型不一致的孤立数据。
通常孤立点被作为“噪音”或异常被丢弃，但在欺骗检测中却可以通过对罕见事件进行孤立点分析而得到结论9、挖掘的所有模式都是有趣的吗？什么样的模式是有趣的？如何度量模式的有趣度？一个数据挖掘系统/查询可以挖掘出数以千计的模式, 并非所有的模式都是有趣的易于理解，在某种必然程度上，对于新的或检验数据是有效的，是潜在有用的，是新颖的，符合用户确信的某种假设客观: 基于模式的统计和结构, 例如, 支持度, 置信度, 等.主观: 基于用户对数据的确信, 例如, 出乎意料, 新颖性, 可行动性等.10、数据挖掘原语类型？任务相关的数据，挖掘的知识类型，背景知识，模式相关度度量，发现模式的可视化第二章数据预处理1、现实世界中的数据是“脏”的，主要体现在哪几个方面？数据为什么脏？不完整、含噪声和不一致不完全数据源于：数据收集时未包含，数据收集和数据分析时的不同考虑.，人/硬件/软件问题噪音数据源于：收集数据的设备可能出现故障，数据输入时人为录入错误，数据传输错误不一致数据源于：不同的数据源，数据代码不一致（日期格式）2、为什么要进行数据预处理？现实世界的数据一般是脏的、不完整的和不一致的。
1、数据挖掘定义：数据挖掘就是从大量的、不完全的、有噪声的、模糊的、随机的数据中，提取出隐含在其中的、人们事先不知道、但又是潜在有用的信息和知识的过程。
2、数据仓库定义：数据仓库是面向主题的、集成的、不可更新却又随时间不断变化的数据集合，用以支持经营管理中的决策制定过程。
3、数据仓库与数据挖掘的关系：1）数据仓库系统的数据可以作为数据挖掘的数据源。
2）数据挖掘的数据源不一定必须是数据仓库系统4、数据挖掘的功能：概念描述，关联分析，分类与预测，聚类分析，趋势分析，孤立点分析，偏差分析。
5、数据挖掘的过程：P10图1-26、数据仓库的基本特征：1）数据仓库的数据是面向主题的；2）数据仓库的数据是集成的；3）数据仓库的数据时不可更新的；4）数据仓库的数据时随时间不断变化的。
7、主题的概念：主题是一个抽象的概念，是在较高层次上将企业信息系统中的数据综合、归类并进行分析利用的对象。
面向主题的组织方式，就是在较高层次上对分析对象的数据的一个完整、一致的描述，能完整、统一的刻画各个分析对象所涉及的企业的各项数据，以及数据之间的联系。
8、对数据仓库基本特征的理解：数据仓库是面向主题的，面向主题性表示数据仓库中数据组织的基本原则，数据仓库中所有的数据都是围绕某一主题组织、展开的。
数据仓库的数据是集成的，数据仓库的数据时从原有的分散的数据库、数据文件和数据段中抽取来的，数据来源可能既有内部数据又有外部数据，因此，在数据进入数据仓库之前，必然要经过转换、统一和综合。
这一步是数据仓库建设中最关键最复杂的一步，要进行统一数据源，综合和计算两步，统一数据源包括命名规则，编码，数据特征，度量单位的统一。
数据仓库是不可更新的，数据仓库的数据主要提供企业决策分析之用，不是用来进行日常操作的，一般只保存过去的数据，而且不是随着数据源的变化实时更新，数据仓库中的数据一般不再修改。
9、数据仓库数据分为四个级别：早期细节级，当前细节级，轻度综合级和高度综合级。
《数据挖掘》复习一、题型1、判断题15分2、单选题15分3、简单题15分4、综合题20分5、计算题35分（C5.0算法、感知机算法、Apriori算法，见练习题）二、考试大纲三、实验/作业评讲在教学过程的各个环节，从学生的出勤、日常表现、作业、测试、项目完成情况及完成质量、TOPCARES能力目标的实现情况等方面，对学生进行全方位的考核。
说明：四、知识点梳理，重点教学内容串讲名词解释数据挖掘(P6）、算法（P10）、MODELER中的节点(P13）、MODELER中的数据流(P14）、MODELER中的超节点（P18）、决策树分析(P104）、人工神经网络分析（P157）、关联分析（P207）、知识发现KDD（P6）主要概念DW产生的基础（P3）DW的基本过程包括(P6）DW能做什么(P7）DW得到的知识形式（P8）DW的算法分类（P10）MODELER的主窗口由哪几部分组成（P13）MODELER中数据流中的节点主要可实现哪些功能（P15)MODELER中数据流的操作主要包括哪几步（P15）MODELER中节点工具箱含由八大选项卡组织（P15）MODELER中通常数据挖掘的基本思路包括哪些过程（P19）MODELER中从数据挖掘角度看变量有哪7大类型（P26)，通过TYPE节点可以说明变量什么内容（P42）什么是“有指导学习”（P12、P104）？举例说明;决策树算法的核心问题有哪些（P106）？什么是信息熵（P57、P109）?（信息熵是连续型变量分箱ＭＤＬＰ算法和决策树C5。
0算法的核心）人工神经网络中主要有哪些网络种类（P156）神经网络中处理单元的内部结构图（P158）什么是感知机模型（P162）什么是Ｂ－Ｐ反向传播网络模型，由什么特点（P164)Apriority关联分析算法主要包括哪两大部分技术（P213)（产生频繁集、依据频繁集产生关联规则）决策树分析(P104)、人工神经网络分析（P157）、关联分析（P207）等数据挖掘方法主要用来解决什么问题（分类、预测、关联等）３、算法决策树C5.0算法、人工神经网络B—P感知机算法、关联分析Apriori算法五、典型例题分析（一)判断题，在每题后面正确打勾，错误打叉有高质的原始数据，才可能有高质量的数据挖掘结果。
第一章数据挖掘概论1.什么是数据挖掘？数据挖掘(Data Mining DM)从大量的数据中挖掘出令人感兴趣的、有用的、隐含的、先前未知的和可能有用的模式或知识数据挖掘的替换词数据库中的知识挖掘、知识发现（KDD）知识提炼、数据/模式分析数据考古数据捕捞、信息收获等等2.KDD的步骤数据清理: (这个可能要占全过程60％的工作量)数据集成数据选择数据变换数据挖掘（选择适当的算法来找到感兴趣的模式）模式评估知识表示3.体系结构:典型数据挖掘系统4.数据挖掘的主要功能概念/类描述: 特性化和区分归纳，总结和对比数据的特性。
关联分析发现数据之间的关联规则，这些规则展示属性－值频繁的在给定的数据中所一起出现的条件。
分类和预测通过构造模型(或函数)用来描述和区别类或概念，用来预测类型标志未知的对象类。
聚类分析将类似的数据归类到一起，形成一个新的类别进行分析。
孤立点分析通常孤立点被作为“噪音”或异常被丢弃，但在欺骗检测中却可以通过对罕见事件进行孤立点分析而得到结论。
趋势和演变分析描述行为随时间变化的对象的发展规律或趋势5.数据挖掘系统与DB或DW系统的集成方式不耦合松散耦合半紧密耦合紧密耦合概念P23第三章数据仓库和OLAP技术1.什么是数据仓库?数据仓库的定义很多，但却很难有一种严格的定义.“数据仓库是一个面向主题的、集成的、随时间而变化的、不容易丢失的数据集合，支持管理部门的决策过程.”—W. H. Inmon（数据仓库构造方面的领头设计师）2.数据仓库关键特征数据仓库关键特征一——面向主题数据仓库关键特征二——数据集成数据仓库关键特征三——随时间而变化数据仓库关键特征四——数据不易丢失3.数据仓库与异种数据库集成传统的异种数据库集成:在多个异种数据库上建立包装程序和中介程序采用查询驱动方法——当从客户端传过来一个查询时，首先使用元数据字典将查询转换成相应异种数据库上的查询；然后，将这些查询映射和发送到局部查询处理器缺点：复杂的信息过虑和集成处理，竞争资源数据仓库: 采用更新驱动将来自多个异种源的信息预先集成，并存储在数据仓库中，供直接查询和分析高性能.4.从关系表和电子表格到数据立方体数据仓库和数据仓库技术基于多维数据模型。
机器学习与数据挖掘复习第一章：Introduction1. 什么是数据挖掘：数据挖掘时从大量的数据中取出令人感兴趣的知识（令人感兴趣的知识：有效地、新颖的、潜在有用的和最终可以理解的）。
2. 数据挖掘的分类（从一般功能上的分类）：a)描述型数据挖掘（模式）：聚类，summarization，关联规则，序列发现。
b)预测型数据挖掘（值）：分类，回归，时间序列分析，预测。
3.KDD（数据库中的知识发现）的概念：KDD是一个选择和提取数据的过程，它能自动地发现新的、精确的、有用的模式以及现实世界现象的模型。
数据挖掘是KDD过程的一个主要的组成部分。
4. 用数据挖掘解决实际问题的大概步骤：a)对数据进行KDD过程的处理来获取知识。
b)用知识指导行动。
c)评估得到的结果：好的话就循环使用，不好的话分析、得到问题然后改进。
5. KDD过程中的角色问题：6. 整个KDD过程：a)合并多个数据源的数据。
b)对数据进行选择和预处理。
c)进行数据挖掘过程得到模式或者模型。
d)对模型进行解释和评价得到知识。
第二章数据和数据预处理1. 什么是数据：数据是数据对象和它的属性的集合。
一个属性是一个对象的性质或特性。
属性的集合描述了一个对象。
2. 属性的类型：a)标称（nominal）：它的值仅仅是不同的名字，只是提供足够的信息来区分对象。
例如邮政编码、ID、性别。
b)序数：序数属性的值提供足够的信息确定对象的序。
例如硬度、成绩、街道号码。
c)区间：对于区间属性，值之间的差是有意义的，即存在测量单位。
例如日历日期、温度。
d)比率：对于比率变量，差和比率都是有意义的。
例如绝对温度、年龄、质量、长度。
3. 用值的个数描述属性：a)离散的：离散属性具有有限惑无限可数个值，这样的属性可以是分类的。
b)连续的：连续属性是取实数值的属性。
4. 非对称属性：对于非对称属性，出现非零属性值才是最重要的。
5. 数据集的类型：a)记录型数据：每一个数据对象都是有固定数目的属性组成的。
数据挖掘与机器学习复习资料数据挖掘和机器学习是当今信息技术领域中极为重要的两个分支，它们在处理和分析大量数据、发现隐藏模式、做出预测和决策等方面发挥着关键作用。
对于学习者来说，掌握这两个领域的知识至关重要。
以下是为大家整理的一份关于数据挖掘与机器学习的复习资料。
一、数据挖掘概述数据挖掘，简单来说，就是从大量的数据中提取出有用的信息和知识的过程。
它不仅仅是数据的收集和存储，更重要的是通过一系列的技术和方法，对数据进行深入分析和挖掘，以发现潜在的规律和趋势。
数据挖掘的主要任务包括数据分类、聚类、关联规则挖掘、异常检测等。
在数据分类中，我们根据已知的类别标签，将新的数据划分到相应的类别中。
聚类则是将数据按照相似性进行分组，而无需事先知道类别信息。
关联规则挖掘用于发现数据中不同属性之间的关联关系，例如购买了商品 A 的顾客往往也会购买商品 B。
异常检测则是识别出与大多数数据不同的异常值。
数据挖掘的过程通常包括数据准备、数据探索、模型建立、模型评估和模型部署等阶段。
在数据准备阶段，需要对原始数据进行清理、转换和集成，以确保数据的质量和一致性。
数据探索阶段则通过可视化和统计分析等方法，对数据的特征和分布有一个初步的了解。
模型建立阶段选择合适的算法和模型，并使用训练数据进行训练。
模型评估通过使用测试数据来评估模型的性能，如准确率、召回率、F1 值等。
最后，将性能良好的模型部署到实际应用中。
二、机器学习基础机器学习是让计算机通过数据自动学习和改进的一种方法。
它可以分为监督学习、无监督学习和强化学习三大类。
监督学习是在有标记的数据集上进行学习，常见的算法包括线性回归、逻辑回归、决策树、支持向量机等。
线性回归用于预测连续值，逻辑回归用于分类问题，决策树可以生成易于理解的规则，支持向量机在处理高维数据和非线性问题上有较好的表现。
无监督学习是在无标记的数据集中寻找模式和结构，例如聚类算法（如 KMeans 聚类、层次聚类）和主成分分析（PCA）等。
第一引言1.什么是数据挖掘？请举例。
数据挖掘:是从大量数据中提取或"挖掘"知识,也就是从存放在数据库,数据仓库或其他信息库中的数据挖掘有趣知识的过程.数据挖掘是可以从数据库中提取有趣的知识规律或高层信息发现的知识,可以用于决策,过程控制,信息管理,查询处理. 它不是一种从数据库,统计学和机器学习发展的技术的简单转化,它涉及多学科技术的集成,包括数据库技术,统计学,机器学习,高性能计算模式识别,神经网络,数据可视化,信息检索,图象与信号处理和空间数据分析.随着数据库技术发展,数据的丰富带来了对强有力的数据分析工具的需求,大量的数据被描述为"数据丰富,但信息贫乏",所以数据挖掘出来了.同义词：从数据中挖掘知识、知识提取、数据/模式分析、数据考古、数据捕捞、数据中的知识发现（KDD）。
2.简述知识发现（KDD）过程。
当把数据挖掘看作知识发现过程时,它涉及的步骤为:数据清理（消除噪声或不一致数据）数据集成（多种数据源可以组合在一起）数据选择（从数据库中检索与分析任务相关的数据）数据变换（数据变换或统一成适合挖掘的形式，如通过汇总或聚集操作）数据挖掘（基本步骤，使用智能方法提取数据模式）模式评估（根据某种兴趣度度量，识别表示知识的真正有趣的模式）知识表示（使用可视化和知识表示技术，向用户提供挖掘的知识）3.简述数据挖掘的功能。
数据挖掘的任务：描述和预测。
描述性挖掘任务刻画（描述）数据库中数据的一般特性；预测性挖掘任务在当前数据上进行推断。
比较典型的有：概念/类描述：特征化和区分挖掘频繁模式、关联和相关分类和预测聚类分析离群点分析演变分析@数据挖掘常用技术生物学方法人工神经网络遗传算法信息论方法决策树集合论方法约略集模糊集最邻近技术统计学方法可视化技术第二数据预处理4.为什么要进行数据预处理？1）不完整的缺少属性值或某些感兴趣的属性，或仅包含聚集数据。
2）含噪声的包含错误或存在偏离期望的离群值。
数据挖掘复习1、简单描述一下数据挖掘的过程（1）数据清洗：清除数据噪声和与挖掘主题明显无关的数据（2）数据集成：将来自多个数据源中的相关数据组合到一起（3）数据选择：根据数据挖掘的目标选取待处理的数据（4）数据转换：将数据转换为易于进行数据挖掘的数据存储形式（5）数据挖掘：根据一定评估标准，从挖掘结果中筛选出有意义的相关知识（6）知识表示：利用可视化和知识表达技术，向用户展示所挖掘的相关知识2、均值、中位数、截断均值在反应数据中心方面的特点（1）均值：（2）中位数：对于倾斜的（非对称的）数据，中位数是数据中心的一个较好度量（3）截断均值：均值对极端值很敏感，截断均值可以避免少量极端值影响均值3、在数据预处理的时候可以发现并清除噪音数据吗？噪音数据一般有哪些处理方法（1）可以。
数据清理的目的就是试图填充缺失值、去除噪声并识别利群点、纠正数据中的不一致值。
（2）1、分箱：通过考察周围的值来平滑有序数据的值2、聚类：聚类将类似的值组织成群或簇。
落在簇集合之外的值被视为异常值3、回归：通过回归（线性回归、非线性回归）让数据适合一个函数来平滑数据4、举例说明什么是数据挖掘的关联分析任务例：通过对数据集进行关联分析，发现关联规则A→B，表示购买产品A的顾客通常都会购买产品B。
关联规则中的前件和后件不存在必然的因果关系，只是表示如果前件出现了，后件也很有可能出现。
5、一趟聚类算法是如何在时效性和处理混合型数据方面得到提高的？它的缺点是什么？（1）（2）1、对于大规模数据集，聚类时效性和准确性难以满足要求2、难以直接处理混合属性的数据3、聚类结果依赖于参数，而参数的选择主要靠经验或试探，没有简单、通用的方法。
数据挖掘知识点（考点）复习第6章的知识点 1.哪些学科和数据挖掘有密切联系？（P68数据挖掘关系图）2.数据挖掘的定义（P69）数据挖掘是从大量的、不完全的、有噪声的、模糊的、随机的数据中提取隐含在其中的、人们事先不知道的、但又是潜在有用的信息和知识的过程。
第7章的知识点1.数据挖掘步骤（P74）确定目标、数据准备、数据挖掘、结果分析2.数据选择的内容（包括哪两部分）（P75）属性选择和数据抽样3.数据清理的方法（P75） 了解小规模数据、大数据集的清理方法。
小规模数据：人工清理大数据集：自动清理（测定→识别→ 纠正）4.常见的模式有哪些（P78）尤其是分类、回归、聚类模式之间的分析比较。
① 分类模式（用于离散值）② 回归模式（用于连续值）③ 聚类模式④ 关联模式⑤序列模式即将数据间的关联性事件发生的顺序联系起来。
⑥时间序列模式根据数据随时间变化的趋势预测将来的值。
5.模式的精确度（P79）训练和测试模式需将数据分成哪两部分以及各自用途？模式准确性的测试方法及其比较。
训练和测试模式需将数据分成：一是训练数据，主要用于模式训练；另一个是测试数据，主要用于模式测试。
模式准确性的测试方法：封闭测试：测试集即训练模式的训练数据。
可测试模式的稳定性，但无法验证其推广能力。
开放测试：测试模式的数据是模式先前未见的数据。
可以很好地度量模式的准确度。
6.数据预处理的任务有哪些？（P83-89）数据清理、数据集成和转换7.空缺值的处理方法（P83-84）忽略该条记录（不很有效）、手工填补遗漏值（可行性差）、利用缺省值填补遗漏值（不推荐）数据库理论 数据仓库数据统计 机器学习 人工智能 数据挖掘利用均值填补遗漏、利用同类别均值填补遗漏值、利用最可能的值填补遗漏值（较常用）8.分箱技术（P84-86） 分箱之前要做的工作？P84 分箱之前需要对记录按目标属性值的大小进行排序（1）要求能描述出常见的分箱方法和数据平滑方法（简答）。
