数据仓库技术
- 格式:pptx
- 大小:2.86 MB
- 文档页数:33


龙源期刊网
数据仓库及数据挖掘技术的应用
作者:刘强
来源:《电子技术与软件工程》2016年第01期
随着信息技术快速发展,数据库技术得到了广泛应用和普及,在促进社会各领域发展等方面发挥着积极作用。但随着大规模数据的出现,单纯依靠传统数据查询和存储技术已经无法满足市场竞争需求。而数据挖掘技术的应用,能够将大量数据信息转换为有用的数据仓库,为企业科学决策提供依据。本文将从数据仓库与数据挖掘技术概念入手,具体阐述数据仓库与挖掘技术的具体应用。
【关键词】数据仓库 数据挖掘 技术 应用
信息时代背景下,传统数据库主要是面向事务并存储在线交易的数据信息,但是无法为人们找到信息中隐藏的重要内容。因此社会发展新形势下,数据仓库与挖掘技术应运而生,并成为企业现代化发展的重要应用技术,不仅能够提高数据信息管理能力,还能够促进企业发展。因此加强对该课题的研究具有积极意义。
1 数据仓库及数据挖掘技术概念
所谓数据仓库技术设计灵感来自于传统数据库技术,其主要是在计算机中实现数据存储的一种技术。但是相比较传统数据库,二者存在本质上的差别。数据仓库的出现并未取代传统数据库,二者共存在信息时代,且发挥自身独特的优势。数据库主要存储在线交易数据,且尽量避免冗余,通常采取符合范式规则设计;而数据仓库在设计过程中有意引入冗余,采取反范式方式实现设计目标。
而数据挖掘技术是在数据集合基础之上,从中抽取隐藏在数据当中的有用信息的非平凡过程。这些信息表现形式呈现多样化,如概念、规则等。它在具体应用过程中,不仅能够帮助决策者分析历史与当前数据信息,还具有预见作用。就本质上来看,数据挖掘过程也是知识发现的过程。数据挖掘技术是多个学科综合的结果,对此其融合了多项技术功能,如聚类、分类及预测等,且这些功能并非独立存在,而是存在相互依存关系。
2 数据仓库与挖掘技术的应用
信f息f产l业 科 氲
数据仓库技术在数据存储与数据处理中的应用
张连第王艳辉
f吉林农大信息技术学院,吉林长春130118)
摘要:随着社会的发展和进步,信息已经成为人类社会中除了物质、能量之外的第三大资源。与此同时,市场竞争的加剧和信息社会需求的
发展,从大量数据中提取(检索、查询等)制定市场策略的信息就显得越来越重要了。这种需求既要求联机服务,又涉及大量用-I-: ̄策支持的数据,而
传统的数据库系统已经无法满足这种需求。这就需要新型的数据贮存与处理技术——数据仓库。
关键词:信息;商业;数据仓库;决策JL ̄;OLAP
l概述 数据仓库是近年来新兴起来的建立在原 有数据库基础上的一门新的技术,传统的数据
库技术是单一的数据资源,即以数据库为中心,
进行从事务处理,批处理到决策分析的各种类 型的数据处理工作。随着计算机技术的迅速发
展,信息已经成为人类社会中除了物资,能量之 外的第三大资源。社会的信息化,使信息量急剧
增长,大量的信息来不及组织和处理,面对急剧
增长的信息,对数据库系统的应用只停留在查 询,检索,统计等几个方面,远远没有发挥数据
库中的数据的作用和价值。而数据仓库和0一
LAP技术的应用将会使问题得以解决。由模型 库,数据仓库,OLAP技术及交互接集成在一起 形成的决策支持系统是解决此问题的途径。其
中数据仓库能够实现对决策主题的存储和综
合,OLAP实现多维数据分析,而前台人性化的 人机交互界面可以将分析结果一览无余,它们
相互辅助,实现对企业管理人员的辅助决策。 1.1数据仓库的提出
众所周知,如何有效的管理公司和企业在 运营过程中产生的大量数据和信息一直是rr
人员面临的重要问题。二十世纪七十年代出现
并被广泛应用的关系型数据库技术为解决这一 问题提供了强有力的工具。然而,从二十世纪八
十年代中期开始,随着市场竞争的加剧,我们更 需要的是从这些数据中得到有用信息,以便进
数据挖掘技术包括三个主要部分:数据、建模能力、算法与技术
关于基本数据的元数据是指:基本元数据包括关于装载和更新处理,分析处理以及管理方面
的信息。
关于OLAP和OLTP的说法不正确的是:OLAP事务量大,但事务内容比较简单且重复率高
将原始数据进行集成、交换、维度规约、数值规约是哪个步骤的任务:数据预处理
下面哪种不属于数据预处理的方法:估计遗漏值
在ID3算法中信息增益是指:熵减少的程度最大
以下哪个算法是基于规则的分类器:C4.5
以下哪项关于决策树的说法是错误的:决策树算法对于噪声的干扰非常敏感
决策树中不包含一下哪种结点:外部结点
在抽样方法中,当合适的样本容量很难确定时,可以使用抽样的方法是:渐进抽样
当不知道数据所带标签时,可以使用哪种技术促使带同类标签的数据与其他标签的数据相分
离:聚类
以下关于人工神经网络(ANN)的描述错误的是:神经网络对训练数据中的噪声非常敏感
组平均:将两个簇的邻近度定义为不同族的所有点对的平均逐对邻近度,它是一种凝聚层次
聚类技术
只有非零值才重要的二元属性被称作:非对称的二元属性
在基本K均值算法里,当邻近度函数采用:曼哈顿距离的时候,合适的质心是簇中各点的
中位数
下列关于数据粒度的描述不正确的是:数据综合度越高、粒度也就越大、级别也就越高
某超市研究销售记录数据后发现,买啤酒的人很大概率也会购买尿布,这种属于数据挖掘的
那类问题:关联规则发现。OLAP技术的核心是:多维分析
假设12个销售价格记录组已经排序如下:5、10………………使用如下每种方法将他们划分
成四个箱子,等深划分时,15在第几个箱子内:第二个;等宽度划分(宽度为50),15在
第一个箱子里面。
熵是为消除不确定性所需要获得的信息量,投掷均匀正六面体骰子的熵是:2.6比特
假设属性income的最大最小值分别是12000元和98000元,利用最大最小规范的方法将属
性的值映射到0-1的范围内。对属性income的73600元将被转换为:0.716
龙源期刊网
大数据时代数据仓库的技术跟进
作者:张静
来源:《中国信息化周报》2014年第14期
数据仓库(Data Warehouse,可简写为DW或DWH)是为企业所有级别的决策制定过程提供支持的所有类型数据的战略集合。它是单个数据存储,出于分析性报告和决策支持的目的而创建。数据仓库是为企业所有级别的决策制定过程提供支持的所有类型数据的战略集合。
在大数据(Big Data)时代,随着技术的发展,数据仓库已包含提取、清洗、集成数据并将数据交付给决策者的完整生态系统,包括提取-转换-加载 (ETL) 和商业智能 (BI) 功能。数据仓库在捕获所有形式的企业数据,以及在其后准备这些数据供全企业决策者使用的过程中,起到非常广泛的作用。
大数据与数据仓库的异同
大数据时代的到来,确实对传统的数据仓库认知产生了重大的影响。什么是大数据?大数据的“大”实际上并不是最令人关注的特征。大数据是很多不同格式的结构化、半结构化、非结构化和原始数据,在某些情况下看起来与过去 30 年来我们存储在数据仓库中清一色的标量数字和文本完全不同。从另外一个角度来讲,小数据比较简单,有比较成熟的技术应对它。大数据是多种类型数据的组成,需要使用多种技术对待它。每一个识别和监测它的手段和方法是不一样的。
然而,很多大数据不能使用任何类似 SQL 这样的工具进行分析。对于企业及应用来说,数据仓库应用更加有效。两者并不形成替代,特别是银行业等行业里面,更多的是互为补充。
数据仓库的技术特点
被称为数据仓库之父的BillInmon在其著作《(Building the Data Warehouse))一书这样描述:数据仓库是一个面向主题的、集成的、相对稳定的、反映历史变化(Time Variant)的数据集合,用于支持管理决策。可以从两个层面对数据仓库的概念进行理解,一是数据仓库是面向分析处理的,主要用来支持决策制定;二是数据仓库包含历史数据,是对多个异构的数据源数据按照主题的集成,它的数据相对固定,不会经常改动。