第1章 初识Hadoop

《Hadoop大数据技术》课程教学大纲一、课程基本情况课程代码：1041139083课程名称（中/英文）：Hadoop大数据技术/Hadoop Big Data Technology课程类别：专业必修课学分：3.5总学时：56理论学时：32实验/实践学时：24适用专业：数据科学与大数据技术适用对象：本科先修课程：JA V A程序设计、Linux基础教学环境：课堂、多媒体、实验机房二、课程简介《Hadoop大数据技术》课程是数据科学与大数据技术专业的专业必修课程。

《Hadoop大数据技术》主要学习当前广泛使用的大数据Hadoop平台及其主要组件的作用及使用。

通过学习Hadoop 平台框架，学会手动搭建Hadoop环境，掌握Hadoop平台上存储及计算的原理、结构、工作流程，掌握基础的MapReduce编程，掌握Hadoop生态圈常用组件的作用、结构、配置和工作流程，并具备大数据的动手及问题分析能力，使用掌握的知识应用到实际的项目实践中。

课程由理论及实践两部分组成，课程理论部分的内容以介绍Hadoop平台主要组件的作用、结构、工作流程为主，对Hadoop 平台组件的作用及其工作原理有比较深入的了解；课程同时为各组件设计有若干实验，使学生在学习理论知识的同时，提高实践动手能力，做到在Hadoop的大数据平台上进行大数据项目开发。

三、课程教学目标2.课程教学目标及其与毕业要求指标点、主要教学内容的对应关系四、教学内容（一）初识Hadoop大数据技术1.主要内容：掌握大数据的基本概念、大数据简史、大数据的类型和特征、大数据对于企业带来的挑战。

了解对于大数据问题，传统方法、Google的解决方案、Hadoop框架下的解决方案，重点了解Google的三篇论文。

掌握Hadoop核心构成、Hadoop生态系统的主要组件、Hadoop发行版本的差异及如何选择；了解Hadoop典型应用场景；了解本课程内容涉及到的Java语言基础；了解本课程实验涉及到的Linux基础。

的飞跃，最终导致了大数据的产生，今天我们正处于这个阶段。
大数据的概念
大数据特点
Volume（规模性）：数据的价值和隐藏价值由数据的大小决定 Velocity（高速性）：指获得数据的速度 Variety（多样性）：数据的多样性 IDC认为大数据具有价值性(Value)，大数据的价值往往呈现出稀疏性的特点，而 IBM则认为大数据必然具有真实性(Veracity)。
Hadoop生态体系
Hadoop项目及其介绍
Hadoop生态体系结构
Hadoop生态体系
Hadoop企业级应用
基于Hadoop的企业级应用
谢谢聆听
大数据的概念
大数据的产生
数据的产生方式经历了以下三个阶段： （1） 运营式系统阶段：数据库的出现大大降低了数据管理的复杂程度，实际中
数据库主要作为运营系统存储数据或作为运营系统的数据管理子系统。 （2） 用户原创内容阶段：由于互联网的诞生，人类社会数据存储量出现第二次
大的飞跃。 （3） 感知式系统阶段：感知式系统的广泛应用导致了数据技术
数据采集：使用数据采集工具将分布的、异构数据源中的数据如关系数据、平面数 据文件等抽取到临时中间层后进行清洗、转换、集成，而后加载到数据仓库或数据集 之中，成为联机分析处理、数据挖掘的基础。 数据存取：关系型数据库、非关系型数据库等。 存储架构：云存储、分布式文件系统（HDFS）等。 数据处理：把采集到的数据针对关键指标进行数据的处理和清洗等。 统计分析：方差分析、回归分析、简单回归分析技术等等。 数据挖掘：分类、估计、模型预测、结果呈现等方式。
Hadoop生态体系
Hadoop核心体系
HDFS和MapReduce共同组成了Hadoop分布式系统体系结构的核心。HDFS在集群上实现 了分布式文件系统，MapReduce在集群上实现了分布式计算和任务处理。HDFS在MapReduce 任务处理过程中提供了文件操作和存储等支持，MapReduce在HDFS的基础上实现了任务的分 发、跟踪、执行等工作，收集结果，二者相互作用，完成了Hadoop分布式集群的主要任务。

Hadoop大数据开发基础教案Hadoop介绍教案第一章：Hadoop概述1.1 课程目标了解Hadoop的定义、发展历程及应用场景掌握Hadoop的核心组件及其作用理解Hadoop在大数据领域的优势1.2 教学内容Hadoop的定义与发展历程Hadoop的核心组件：HDFS、MapReduce、YARN Hadoop的应用场景与优势1.3 教学方法讲解与案例分析相结合互动提问，巩固知识点1.4 课后作业简述Hadoop的发展历程及其在大数据领域的优势。

第二章：HDFS（分布式文件系统）2.1 课程目标掌握HDFS的架构与工作原理了解HDFS的优势与局限性掌握HDFS的常用操作命令2.2 教学内容HDFS的架构与工作原理HDFS的优势与局限性HDFS的常用操作命令：hdfs dfs, hdfs dfsadmin2.3 教学方法讲解与实践操作相结合案例分析，理解HDFS的工作原理2.4 课后作业利用HDFS命令练习文件的与。

第三章：MapReduce编程模型3.1 课程目标掌握MapReduce的基本概念与编程模型理解MapReduce的运行原理与执行过程学会使用MapReduce解决大数据问题3.2 教学内容MapReduce的基本概念：Mapper、Reducer、Shuffle与Sort MapReduce的编程模型：Map阶段、Shuffle阶段、Reduce阶段MapReduce的运行原理与执行过程3.3 教学方法讲解与编程实践相结合剖析经典MapReduce案例，理解编程模型3.4 课后作业编写一个简单的MapReduce程序，实现单词计数功能。

第四章：YARN（资源管理器）4.1 课程目标掌握YARN的基本概念与架构了解YARN的工作原理与调度策略掌握YARN的资源管理与优化方法4.2 教学内容YARN的基本概念与架构YARN的工作原理与调度策略YARN的资源管理与优化方法4.3 教学方法讲解与案例分析相结合实操演练，掌握YARN的资源管理方法4.4 课后作业分析一个YARN集群的资源使用情况，提出优化方案。

第1章初识Hadoop大数据技术本章主要介绍大数据的时代背景，给出了大数据的概念、特征，还介绍了大数据相关问题的解决方案、Hadoop大数据技术以及Hadoop的应用案例。

本章的主要内容如下。

（1）大数据技术概述。

（2）Google的三篇论文及其思想。

（3）Hadoop概述。

（4）Hadoop生态圈。

（5）Hadoop的典型应用场景和应用架构。

1.1 大数据技术概述1.1.1 大数据产生的背景1946年，计算机诞生，当时的数据与应用紧密捆绑在文件中，彼此不分。

19世纪60年代，IT系统规模和复杂度变大，数据与应用分离的需求开始产生，数据库技术开始萌芽并蓬勃发展，并在1990年后逐步统一到以关系型数据库为主导，具体发展阶段如图1-1所示。

Hadoop 大数据技术与应用图1-1 数据管理技术在2001年前的两个发展阶段 2001年后，互联网迅速发展，数据量成倍递增。

据统计，目前，超过150亿个设备连接到互联网，全球每秒钟发送290万封电子邮件，每天有2.88万小时视频上传到YouTube 网站，Facebook 网站每日评论达32亿条，每天上传照片近3亿张，每月处理数据总量约130万TB 。

2016年全球产生数据量16.1ZB ，预计2020年将增长到35ZB （1ZB = 1百万，PB = 10亿TB ），如图1-2所示。

图1-2 IDC 数据量增长预测报告2011年5月，EMC World 2011大会主题是“云计算相遇大数据”，会议除了聚焦EMC 公司一直倡导的云计算概念外，还抛出了“大数据”（BigData ）的概念。

2011年6月底，IBM 、麦肯锡等众多国外机构发布“大数据”相关研究报告，并予以积极的跟进。

19世纪60年代，IT 系统规模和复杂度变大，数据与应用分离的需求开始产生，数据库技术开始萌芽并蓬勃发展，并在1990年后逐步统一到以关系型数据库为主导1946年，计算机诞生，数据与应用紧密捆绑在文件中，彼此不分1946 1951 1956 1961 1970 1974 1979 1991 2001 … 网络型E-RSQL 关系型数据库 数据仓库 第一台 计算机 ENIAC 面世 磁带+ 卡片 人工 管理 磁盘被发明，进入文件管理时代 GE 公司发明第一个网络模型数据库，但仅限于GE 自己的主机 IBM E. F.Dodd 提出关系模型 SQL 语言被发明 ORACLE 发布第一个商用SQL 关系数据库，后续快速发展数据仓库开始涌现，关系数据库开始全面普及且与平台无关，数据管理技术进入成熟期 0.8ZB ：将一堆DVD 堆起来够地球到月亮一个来回 35ZB ：将一堆DVD 堆起来是地球到火星距离的一半IDC 报告“Data Universe Study ”预测：全世界数据量将从2009年的0.8ZB 增长到2020年的35ZB ，增长44倍！年均增长率>40%！1.1.2 大数据的定义“大数据”是一个涵盖多种技术的概念，简单地说，是指无法在一定时间内用常规软件工具对其内容进行抓取、管理和处理的数据集合。