云计算和大数据基础知识
* 1: 100. 云计算
（一）大数据（BigData）
1. 定义：海量数据或巨量数据，其规模巨大到无法用当前主流的计算机系统在合理时间内获取、存储、管理、处理并提取以帮助使用者决策。
2. 特点：1 ）数据量大（Volume ） PB 级以上
2 ）快速（Velocity ） ------ 数据增长快
3 ）多样（Variety ）-------- 数据来源及格式多样
4 ）价值密度低（Value ）从大量、多样数据中提取价值的体系结构
5 ）复杂度（Complexity ）------- 对数据处理和分析的难度大
3. 大数据与云计算的关系：
从技术上看，大数据与云计算的关系就像一枚硬币的正反面一样密不可分。大数据必然无法用单台的计算机进行处理，必须采用分布式计算架构。
它的特色在于对海量数据的挖掘，但它必须依托云计算的分布式处理、分布式数据库、云存储和虚拟化技术。
（二）云计算（Cloud Computing）
1. 定义：1 ）云计算是一种商业计算模型。它将计算任务分布在大量计算机构成的资源池上，使各种应用系统能够根据需要获取计算力、存储空间和信息服务。// 分布式计算
2 ）云计算是通过网络按需提供可动态伸缩的廉价计算服务。2. 特点：1 ）超大规模2 ）虚拟化
3 ）高可靠性4）通用性 5 ）高可伸缩性 6 ）按需服务7 ）极其廉价 3. 服务类型分类：
1 ）SaaS （软件即服务: ：Software as a Service） // 针对性更强，它将
某些特定应用软件功能封装成服务如：Salesforce online CRM
2 ）PaaS （平台即服务：Platform as a Service ）// 对资源的抽象层次更进一步，
提供用户应用程序运行环境如：Google App Engine ,Microsoft Windows Azure
3 ）IaaS （基础设施作为服务：Infrastructure as a Service ）// 将硬件设备等基
础资源封装成服务供用户使用，如：Amazon EC2/S3
4. 云计算的实现机制（体系结构）
1 ）SOA （面向服务的体系结构）：它将应用程序的不同功能单元（称为服务）通过这些服务之间定义良好的接口和契约联系起来。使得其服务能以一种统一的、通用的方式进行交互。
SOA 可以看作是B/S 模型、XML/Web Service 技术之后的自然延伸。
2 ）管理中间件：（关键部分）
3 ）资源池层：将大量相同类型的资源构成同构或接近同构的资源池。
4 ）物理资源层：计算机、存储器、网络设施、数据库和软件等
5. 云计算与网格计算
1 ）网格是基于SOA 、使用互操作、按需集成等技术，将分散在不同地理位置的资源虚拟化为一个整体。
2 ）关系类似于TCP/IP 协议之于OSI 模型
6. 云计算与物联网
1 ）物联网有全面感知，可靠传递、智能处理三个特征。云计算提供对智能处理所需要的海量信息的分析和处理支持。
2 ）云计算架构与互联网之上，而物联网依赖于互联网来提供有效延伸。因而，云计算模式是物理网的后端支撑关键。
* 1.1: 1. Google 云计算原理
（一）文件系统GFS
1 ）系统架构
2 ）实现机制:
①------------------------------ 节点分类：Client >Master > Chunk Server
②Master 负责管理。Client 与Master 之间只有控制流，而没有数据流
【数据流与控制流分离】
③Client 可以同时访问多个Chunk Server 。
【高度的I/O 并行】
3 ）特点
①采用中心服务器【Master 掌握Chunk Server 情况，方便实现负载均衡】
②不缓存数据
③在用户态下实现
4 ）容错机制
①Master 容错： a. 对应Chunk Server 留有备份
②Chunk Server 容错： a. 多个副本备份（ 3 个） b. GFS 每个文件被分为多个Chunk （64MB ） c. Chunk 分为Block （64kb ）, 每个Block 对应一个32 bit 校验和
（二）分布式计算编程模型MapReduce
1 ）编程模型
①划分为M 个Map ，每一个Map 针对不同的原始数据，互相独立、并行操作。② Reduce 操作则是对每个Map 产生的中间结果进行合并。每个Reduce 所处理的最终结果互不交叉，通过简单相连即可形成完整的结果集。
PS: Map: （in key, in value ） ---> N 个Map
Reduce: （ key（value1,value2,... ）） ---> 对相同的Key 对应的value 进行并行
处理// 统计单词出现次数，每个Map 统计一部分文本，Reduce 进行合并。
2 ）实现机制
3 ）容错机制
①Master 失效：周期性地设置检查点，一旦任务失效，则从最近一个检查点重新执行
②Worker 失效：Master 周期性地ping Worker , Worker 不答复即失效，任务调度分配给其他Worker
（三）分布式锁服务Chubby
1 ）作用：Chubby 是Google 设计的提供粗粒度锁服务的一个文件系统，它基于松耦合
分布式系统，解决了分布的一致性问题
2 ）Paxos 算法
①proposers （提议）--->? acceptors （接收并做出选择）---->@ leaner （决策） // 条件？
3 ）实现
（四）分布式结构化数据表BigTable
1 ）作用
①基于GFS 和Chubby 的分布式存储系统。
// 类似数据库，存储了Google 海量数据，用户通过Key 查询
2 ）数据模型
行、列、时间戳：（row:stri ng, colu mn: stri ng, time:i nt64 stri ng // 依次
对应于三级索引
3 ）系统架构
Chubby 保证同一时间内只有一个主服务器（Master Server ）
4 ）主服务器
①新子表分配②子表服务器状态监测③子服务器之间的负载均衡
5 ）子表服务器
①BigTable中的实际数据以子表的形式保存在子表服务器上。子表服务器数据存储格式：SSTable 。（SSTable 文件存储于GFS 中）
②较新的数据存储于内存表（写操作）&&较早的数据存储在SSTable中（读操作）。
（五）分布式存储系统Megastore
1 ）一种介于传统的关系型数据库和NoSQL之间的存储技术，尽可能达到高可用性和
高可扩展性的统一
2 ）底层数据存储于BigTable // 应用于Google 旧时的系统，目前新技术为Spanner
（六）分布式监控系统Dapper
1 ）Google 基于故障驱动而设计的分布式系统的监控基础架构。
*核心技术：①最关键的代码基础是基本RPC、线程和控制流函数库的实现②主要
功能是实现区间创建、抽样和在本地磁盘上记录日志。
③将复杂的功能实现限制在一个轻量级的核心功能库中保证了Dapper 的监控过程基本对应用层透明。
* 二次抽样技术
* 1.2: 2. Amazon 云计算
* 1.3: 100. 桌面云
（一）云计算（Cloud Computing ）
1 ）是一种互联网上的资源利用新方式，可为大众用户依托互联网上异构、自治的服务进行按需
即取的计算, 云计算的资源是动态易扩展而且虚拟化的，通过互联网提供。
（二）云桌面
1 ）基本定义：云桌面是云计算时代的典型应用：基于分布式云计算存储技术，集成互联网精华应用，依托高度加密算法，为接入用户提供服务。
2 ）价值体现：①信息安全（数据存储在云平台）
②维护、部署方便（云管理软件）
③节能、节约（只需提供终端）
3 ）建设方案：①在企业内部集中部署服务器、磁阵，建设好云平台的IT环境，安
装相关的云桌面软件，和企业需要的办公软件。
②在员工办公桌上，部署云终端+显示器+键盘+鼠标，插上网线连上云桌面即可实现正常的办公。
4 ）Citrix ：①简介：Citrix 即美国思杰公司，是一家致力于云计算虚拟化、虚拟桌面和远程接入技术领域的高科技企业
（三）桌面云
1 ）桌面云：可以通过瘦客户端或者其他任何与网络相连的设备来访问跨平台的应用程序，以及整个客户桌面。// 桌面云与云桌面，是同一对象的不同侧重点的阐述。
2 ）业务价值：
3 ）桌面云架构：①集中化②安全性高③节能减耗④成本减少--
-- 节省维护、管理成本----- 数据存储于服务器端，客户端存储影像-------- 软硬件成本
减少、维护成本减少
①瘦终端：瘦终端是我们使用桌面云的设备，一般是一个内嵌了独立的嵌入式操作系统
②网络接入：桌面云提供了各种接入方式供用户连接。（包括普通连接和安全连接方式）
③控制台：控制台可以对运行着虚拟桌面的服务器进行配置，例如配置网络连接，配置存储设备等等。还可以监控运行服务器的CPU、内容情况等指标。
④身份认证：在桌面云中一般是通过Active Directory 或者LDAP 这些产品来进行用户的认证和授权的。设置和修改密码，设定不同的角色和权限。
⑤应用程序：云桌面架构提供了共享服务的方式来提供桌面和应用。这样可以在特定的服务器上提供更多的服务。
⑥服务器：桌面云解决方案中，更多的应用方式是把各种应用分发到虚拟桌面，这样客户只
需要连到一个桌面就可以使用所有的应用，
（四）云终端
1 ）基本定义：云终端是一台不需要CPU，硬盘和CD-ROM的多用户网络终端设备。
> 通过虚拟化解决方案，将一台计算机的全部软硬件资源，提供给多个用户（无限制）独立使用，拖（变/ 转）成多个云终端。
2 ）设备特征：①设计轻巧
②低功耗
③节省硬件成本（不需要客户端主机）
④节省软件成本（仅需一个服务器软件成本）
⑤节省维护、管理成本（云中心统一管理）
3 ）运算模型：
①终端机是一种没有硬盘驱动器的计算设备，它显示来自远程服务器或刀片式PC的
数据和应用程序。
②基于服务器的计算模型
4 ）解决方案：TCSC-PC STATION Server-based Computing
（五）瘦客户机
1 ）基本定义：瘦客户机（thin client ）是使用专业嵌入式处理器、小型本地DOM
电子盘、精简版操作系统的基于PC 工业标准设计的小型行业专用商用PC // 具有独立CPU、显卡等，相比于普通PC更加可靠，更低功耗和更高安全性。
2 ）区别于云终端：
①云终端是采用ARM架构设计［RISC精简指令集］，没有CPU、硬盘、内存条的一个网络终端。
用软硬件一体化设计，即利于维护又方便管理;USB 控制开放，故障率极低。
②瘦客户机则采用X86架构设计［CISC复杂指令集］，继承传统电脑PC的特色，拥有CPU 、硬盘、内存条等，具有独立的操作系统。所以我们又称之为迷你主机或迷你电脑
③瘦客户机的桌面虚拟化只能通过RDP协议进行部署方案，不能实现网络在线高清视
频播放，所以不能用在多媒体教学方案中，应用的行业比较有限。
瘦客户机只是作为云终端的一款过度性产品，随着云计算与大数据据时代到来，越来越多的企业与用户最终会使用云终端。
1.云计算是对（ D ）技术的发展与运用 A. 并行计算 B网格计算 C分布式计算 D三个选项都是 2. IBM在2007年11月退出了“改进游戏规则”的（ A ）计算平台，为客户带来即买即用的云计算平台。 A. 蓝云 B. 蓝天 C. ARUZE D. EC2 3.微软于2008年10月推出云计算操作系统是（ C ） A. Google App Engine B. 蓝云 C. Azure D. EC2 4. 2008年，（ A ）先后在无锡和北京建立了两个云计算中心 A. IBM B. Google C. Amazon D. 微软 5.将平台作为服务的云计算服务类型是（ B ） A. IaaS B.PaaS C.SaaS D.三个选项都不是 6.将基础设施作为服务的云计算服务类型是（ A ） A. IaaS B.PaaS C.SaaS D.三个选项都不是 7. IaaS计算实现机制中，系统管理模块的核心功能是（ A ） A. 负载均衡 B 监视节点的运行状态 C应用API D. 节点环境配置 8.云计算体系结构的（ C ）负责资源管理、任务管理用户管理和安全管理等工作 A.物理资源层 B. 资源池层 C. 管理中间件层 D. SOA构建层 9. 云计算按照服务类型大致可分为以下类（ A、B、C ） A.IaaS B. PaaS C. SaaS D.效用计算 10. 下列不属于Google云计算平台技术架构的是（ D ） A. 并行数据处理MapReduce B.分布式锁Chubby C. 结构化数据表BigTable D.弹性云计算EC2 11. 在目前GFS集群中，每个集群包含（ B ）个存储节点 A.几百个 B. 几千个 C.几十个 D.几十万个 12. 下列选项中，哪条不是GFS选择在用户态下实现的原因（ D ） A.调试简单 B.不影响数据块服务器的稳定性 C. 降低实现难度，提高通用性 D. 容易扩展 13. GFS中主服务器节点存储的元数据包含这些信息（ BCD ） A.文件副本的位置信息 B.命名空间 C. Chunk与文件名的映射 D. Chunk副本的位置信息 14. 单一主服务器（Master）解决性能瓶颈的方法是（ ABCD ） A.减少其在数据存储中的参与程度 B. 不适用Master读取数据 C.客户端缓存元数据 D. 采用大尺寸的数据块 15. （ B ）是Google提出的用于处理海量数据的并行编程模式和大规模数据集的并行运算的软件架构。 A. GFS B.MapReduce C.Chubby D.BitTable 16. Mapreduce适用于（ D ） A. 任意应用程序 B. 任意可在windows servet2008上运行的程序 C.可以串行处理的应用程序 D. 可以并行处理的应用程序 17. MapReduce通常把输入文件按照（ C ）MB来划分 A. 16 B32 C64 D128 18. 与传统的分布式程序设计相比，Mapreduce封装了（ ABCD ）等细节，还提供了一个简单而强大的接口。 A. 并行处理 B. 容错处理 C. 本地化计算 D. 负载均衡 19.（ D ）是Google的分布式数据存储于管理系统 A. GFS B. MapReduce C. Chubby D.Bigtable 20.在Bigtable中，（ A ）主要用来存储子表数据以及一些日志文件 A. GFS B. Chubby C.SSTable D.MapReduce 21. Google APP Engine使用的数据库是（ C ） A. 改进的SQLServer B. Orack C. Date store D. 亚马逊的SimpleDB
考点： 云计算部分 云计算定义；云计算的特点； 云计算的三种不同部署模式； Google 文件系统的特点及平台结构； 云存储的相关解决方案； 云服务的三种类型及其特点； 虚拟化技术的特点；虚拟化的业界集中不同的解决方案； 云桌面的定义；桌面云的基本架构；无盘工作站的特点； 大数据处理部分 大数据的4V特征； 掌握hdfs中namenode与datanode的作用； MapReduce处理模型； 理解WordCount程序处理流程； Hadoop中运行MapReduce作业的工作原理； 1. Memcache主要应用于（B） A. 静态页面缓存 B. 动态页面缓存 C. 页面片段缓存 D. 数据缓存 2. Mapreduce 适用于（D） A.任意应用程序 B.任意可在windows servet2008 上运行的程序 C.可以串行处理的应用程序 D.可以并行处理的应用程序 1. 云计算的特点？（AB CDE） A．大规模 B.平滑扩展 C.资源共享 D.动态分配 E.跨地域 2. 与传统的分布式程序设计相比，MapReduce 封装了（ABCD）等细节，还提供了一个简单而强大的接口。 A. 并行处理 B. 容错处理 C. 本地化计算 D. 负载均衡 3. 云存储解决方案价值有哪些？（ABCD） A. 海量小文件的高效管理 B. PB级的存储空间和线行扩展能力 C. 可动态提升的性能 D. 数据高可靠性 4. 目前，选用开源的虚拟化产品组建虚拟化平台，构建基于硬件的虚拟化层，
可以选用（BCD） A. Xen B. VMware C. Hyper-v D. Citrix 5. 在云计算中，虚拟层主要包括（ABC） A.服务器虚拟化 B.存储虚拟化 C.网络虚拟化 D.桌面虚拟化 6. 云安全主要的考虑的关键技术有哪些？（ABC） A.数据安全 B.应用安全 C.虚拟化安全 D.服务器安全 7. Google 文件系统将整个系统的节点分为（ABC）的角色 A.客户端 B.主服务器 C.数据块服务器 D.监测服务器 8. 云计算基础架构的层次结构中包含（ABCD） A.基础设施层 B.中间件层 C.显示层 D.管理层 9. 下列属于Google 云计算平台技术架构的是（ABC） A. 并行数据处理MapReduce B.分布式锁Chubby C. 结构化数据表BigTable D.弹性云计算EC2 10. Hadoop项目包括（ABD） A. Hadoop Distributed File System（HDFS） B. Hadoop MapReduce编程模型 C. Hadoop Streaming D. Hadoop Common 云计算部分： 云计算定义： 云计算模型能以按需方式，通过网络，方便的访问云系统的可配置计算资源共享池(如：网络，服务器，存储，应用程序和服务) 。同时它以最少的管理开销及最少的与供应商的交互，迅速配置提供或释放资源。 1、狭义云计算：是指IT基础设施的交付和使用模式，通过网络以按需、易扩展的方式获得所需的资源（硬件、平台、软件）。提供资源的网络被称为“云”。“云”中的资源在使用者看来是可以无限扩展的，并且可以随时获取，按需使用，随时扩展，按使用付费。 2、广义云计算：是指服务的交付和使用模式，通过网络以按需、易扩展的方式获得所需的服务。这种服务可以是IT、软件和互联网相关的，也可以是其他任意的服务。 云计算特点： 1、自助式服务：消费者无需同服务提供商交互就可得到自助的计算、资源能力，如服务器的服务、网络存储等。
大数据与云计算的区别与关系 胡经国 一、大数据与云计算的区别 大数据与云计算是两个有着本质区别的科学概念和范畴。它们主要在其定义和特点（特性或特征）以及体系架构、理论技术、服务模式和应用领域等方面都具有本质的区别。对此，本文作者已经或将要作专文论述，在此仅例举一二。 1、定义区别 根据著名的麦肯锡全球研究所给出的定义，大数据是指一种规模大到在获取、存储、管理、分析方面大大超出传统数据库软件工具能力范围的数据集合，具有海量的数据规模、快速的数据流转、多样的数据类型和价值密度低4大特征。 而云计算则是指一种基于互联网的计算模式；通过这种模式，共享的软硬件资源和信息，可以按需求提供给计算机和其他设备。 2、定义范围区别 从二者的定义范围来看，大数据要比云计算更加广泛。大数据这一概念从2011年诞生以来，已历经8个年头。中国从积极推动两化融合到深度融合，也有14年之久。再者，从各地纷纷建设大数据产业园可以看出，中国极其看重大数据的发展契机。 3、作用区别 云计算改变了IT，而大数据则改变了业务。当然，大数据必须有“云”作为基础架构，才能得以顺畅运营。 4、目标受众区别 云计算是CIO（Chief Information Officer，首席信息官——一种新型的信息管理者）等所关注的技术层；而大数据则是CEO（Chief Executive Officer，首席执行官）所关注的业务层产品。 二、大数据与云计算的关系 1、大数据与云计算的关系概述 通常，人们把大数据与云计算的关系比着一个硬币的两面。云计算是大数据的IT基础，而大数据则是云计算的一个杀手级应用。云计算是大数据成长的驱动力；而另一方面，由于数据越来越多、越来越复杂、越来越实时，因而就更加需要云计算去加以处理。所以，二者之间的关系是相辅相成的。
1 云计算的计算模式为( B/C ). 2（分布式）是公有云计算基础架构的基石。 3（虚拟化）是私有云计算基础架构的基石。 4（并行计算）是一群同构处理单元的集合，这些处理单元通过通信和协作来更快地解决大规模计算问题 5（集群）在许多情况下，能够达到99.999%的可用性。 6 网格计算是利用（因特网）技术，把分散在不同地理位置的计算机组成一台虚拟超级计算机。 7 B/S网站是一种（3层架构）的计算模式。 8 云计算就是把计算资源都放到上（因特网）。 9（云用户端）提供云用户请求服务的交互界面，也是用户使用云的入口，用户通过Web浏览器可以注册、登录及定制服务、配置和管理用户。打开应用实例与本地操作桌面系统一样。 10（服务目录）帮助云用户在取得相应权限（付费或其他限制）后可以选择或定制的服务列表，也可以对已有服务进行退订的操作，在云用户端界面生成相应的图标或列表的形式展示相关的服务。 11（管理系统和部署工具）提供管理和服务，能管理云用户，能对用户授权、认证、登录进行管理，并可以管理可用计算资源和服务，接收用户发送的请求，根据用户请求并转发到相应的相应程序，调度资源智能地部署资源和应用，动态地部署、配置和回收资源。12（监控端）监控和计量云系统资源的使用情况，以便做出迅速反应，完成节点同步配置、负载均衡配置和资源监控，确保资源能顺利分配给合适的用户。 13（服务器集群）提供虚拟的或物理的服务器，由管理系统管理，负责高并发量的用户请求处理、大运算量计算处理、用户Web应用服务，云数据存储时采用相应数据切割算法采用并行方式上传和下载大容量数据。 14用户可通过（云用户端）从列表中选择所需的服务，其请求通过管理系统调度相应的资源，并通过部署工具分发请求、配置Web应用。 15 在云计算技术中，（中间件）位于服务和服务器集群之间，提供管理和服务即云计算体系结构中的管理系统。 16虚拟化资源指一些可以实现一定操作具有一定功能，但其本身是（虚拟）的资源，如计算池，存储池和网络池、数据库资源等，通过软件技术来实现相关的虚拟化功能包括虚拟环境、虚拟系统、虚拟平台。 17SaaS是（软件即服务）的简称。 18 PAAS是（平台即服务）的简称。 19 IaaS是（基础设施即服务）的简称。 20虚拟化层对应（硬件即服务）结合Paas提供硬件服务，包括服务器集群及硬件检测等服务。 21虚拟机最早在（20世纪70年代）由IBM研究中心研制。 22利用公共网络来构建的私人专用网络称为（VPN）。 23OSI模型共（7 ）。 24（IAAS ）是指用户可通过Internet获取IT基础设施硬件资源。 25（RAID5 ）有校验数据，提供数据容错能力 26基于光纤交换机的（SAN ）是利用Fibre Channel Switch为主干，建成的交连网络系统。
云计算与大数据是什么关系? 现在我们提及大数据往往是和云计算联系在一起的，虽然总这样说，但有谁知道云计算和大数据之间的关系，我相信大部分人知道的知识一些皮毛的知识，那下面我们就来具体看一下云计算和大数据到底什么关系。 云计算的关键词在于‘整合’，无论你是通过现在已经很成熟的传统的虚拟机切分型技术，还是通过google后来所使用的海量节点聚合型技术，他都是通过将海量的服务器资源通过网络进行整合，调度分配给用户，从而解决用户因为存储计算资源不足所带来的问题。 大数据正是因为数据的爆发式增长带来的一个新的课题内容，如何存储如今互联网时代所产生的海量数据，如何有效的利用分析这些数据等等。 大数据处理 他俩之间的关系你可以这样来理解，云计算技术就是一个容器，大数据正是存放在这个容器中的水，大数据是要依靠云计算技术来进行存储和计算的。 两者关系： 首先，云计算是提取大数据的前提。 信息社会，数据量在不断增长，技术在不断进步，大部分企业都能通过大数
据获得额外利益。在海量数据的前提下，如果提取、处理和利用数据的成本超过了数据价值本身，那么有价值相当于没价值。来自公有云、私有云以及混合云之上的强大的云计算能力，对于降低数据提取过程中的成本不可或缺。 其次，云计算是过滤无用信息的‘神器’. 首次收集的数据中，一般而言，90%属于无用数据，因此需要过滤出能为企业提供经济利益的可用数据。在大量无用数据中，重点需过滤出两大类，一是大量存储着的临时信息，几乎不存在投入必要;二是从公司防火墙外部接入到内部的网络数据，价值极低。云计算可以提供按需扩展的计算和存储资源，可用来过滤掉无用数据，其中公有云是处理防火墙外部网络数据的最佳选择。 再次，云计算可高效分析数据。 数据分析阶段，可引入公有云和混合云技术，此外，类似Hadoop的分布式处理软件平台可用于数据集中处理阶段。当完成数据分析后，提供分析的原始数据不需要一直保留，可以使用私有云把分析处理结果，即可用信息导入公司内部。最后，云计算助力企业管理虚拟化。 可用信息最终用来指导决策，通过将软件即服务应用于云平台中，可将可用
云计算与大数据基础知识 一、云计算是什么? 云计算就是统一部署的程序、统一存储并由相关程序统一管理着的数据！ 云计算cloud computing是一种基于因特网的超级计算模式，在远程的数据中心里，成千上万台电脑和服务器连接成一片电脑云。因此，云计算甚至可以让你体验每秒超过10万亿次的运算能力，拥有这么强大的计算能力可以模拟核爆炸、预测气候变化和市场发展趋势。用户通过电脑、笔记本、手机等方式接入数据 中心，按自己的需求进行运算。 云计算是一种按使用量付费的模式，这种模式提供可用的、便捷的、按需的网络访问，进入可配置的计算资源共享池（资源包括网络，服务器，存储，应用软件，服务），这些资源能够被快速提供，只需投入很少的管理工作，或与服务供应商进行很少的交互。 通俗的理解是，云计算的“云”就是存在于互联网上的服务器集群上的资源，它包括硬件资源（服务器、存储器、CPU等）和软件资源（如应用软件、集成开发环境等），所有的处理都在云计算提供商所提供的计算机群来完成。 用户可以动态申请部分资源，支持各种应用程序的运转，无需为繁琐的细节而烦恼，能够更加专注于自己的业务，有利于提高效率、降低成本和技术创新。 云计算的核心理念是资源池。 二、云计算的基本原理 云计算的基本原理是，在大量的分布式计算机集群上，对这些硬件基础设施通过虚拟化技术构建不同的资源池。如存储资源池、网络资源池、计算机资源池、数据资源池和软件资源池，对这些资源实现自动管理，部署不同的服务供用户应用，这使得企业能够将资源切换成所需要的应用，根据需求访问计算机和存储系统。 打个比方，这就好比是从古老的单台发电机模式转向了电厂集中供电的模式。它意味着计算能力也可以作为一种商品进行流通，就像煤气、水电一样，取用方便，费用低廉。最大的不同在于，它是通过互联网进 行传输的。 三、云计算的特点 1、支持异构基础资源 云计算可以构建在不同的基础平台之上，即可以有效兼容各种不同种类的硬件和软件基础资源。硬件基础资源，主要包括网络环境下的三大类设备，即：计算(服务器)、存储(存储设备)和网络(交换机、路由器等设备);软件基础资源，则包括单机操作系统、中间件、数据库等。 2、支持资源动态扩展 支持资源动态伸缩，实现基础资源的网络冗余，意味着添加、删除、修改云计算环境的任一资源节点，或者任一资源节点异常宕机，都不会导致云环境中的各类业务的中断，也不会导致用户数据的丢失。这里的
第一章 1.硬件驱动力网络驱动力 2.西摩·克雷(Seymour Cray) 3.约翰·麦卡锡 4.蒂姆·博纳斯·李 5.吉姆·格雷 6.Java 7.基础设施即服务平台即服务软件即服务 8.(1) 超大规模 “云”具有相当的规模，Google云计算已经拥有100多万台服务器， Amazon、IBM、微软、Yahoo等的“云”均拥有几十万台服务器。企业私有云一般拥有数百上千台服务器。“云”能赋予用户前所未有的计算能力。 (2) 虚拟化 云计算支持用户在任意位置、使用各种终端获取应用服务。所请求的资源来自“云”，而不是固定的有形的实体。应用在“云”中某处运行，但实际上用户无需了解、也不用担心应用运行的具体位置。只需要一台笔记本或者一个手机，就可以通过网络服务来实现我们需要的一切，甚至包括超级计算这样的任务。 (3) 高可靠性 “云”使用了数据多副本容错、计算节点同构可互换等措施来保障服务的高可靠性，使用云计算比使用本地计算机可靠。
(4) 通用性 云计算不针对特定的应用，在“云”的支撑下可以构造出千变万化的应用，同一个“云”可以同时支撑不同的应用运行。 (5) 高可扩展性 “云”的规模可以动态伸缩，满足应用和用户规模增长的需要。 (6) 按需服务 “云”是一个庞大的资源池，你按需购买；云可以像自来水，电，煤气那样计费。 (7) 极其廉价 由于“云”的特殊容错措施可以采用极其廉价的节点来构成云，“云”的自动化集中式管理使大量企业无需负担日益高昂的数据中心管理成本，“云”的通用性使资源的利用率较之传统系统大幅提升，因此用户可以充分享受“云”的低成本优势，经常只要花费几百美元、几天时间就能完成以前需要数万美元、数月时间才能完成的任务。 云计算可以彻底改变人们未来的生活，但同时也要重视环境问题，这样才能真正为人类进步做贡献,而不是简单的技术提升。 (8) 潜在的危险性 云计算服务除了提供计算服务外，还必然提供了存储服务。但是云计算服务当前垄断在私人机构（企业）手中，而他们仅仅能够提供商业信用。对于政府机构、商业机构（特别像银行这样持有敏感数据的商业机构）对于选择云计算服务应保持足够的警惕。一旦商业用户大规模使用私人机构提供的云计算服务，无论其技术优势有多强，都
精心整理 云计算与大数据基础知识 一、云计算是什么? 云计算就是统一部署的程序、统一存储并由相关程序统一管理着的数据！ 云计算cloudcomputing是一种基于因特网的超级计算模式，在远程的数据中心里，成千上万台电脑和服务器连接成一片电脑云。因此，云计算甚至可以让你体验每秒超过10万亿次的运算能力，拥有这么强大的计算能力可以模拟核爆炸、预测气候变化和市场发展趋势。用户通过电脑、笔记本、手机等方式接入数据中心，按自己的需求进行运算。 二、 三、 1 );软件2 任一资源节点异常宕机，都不会导致云环境中的各类业务的中断，也不会导致用户数据的丢失。这里的资源节点可以是计算节点、存储节点和网络节点。而资源动态流转，则意味着在云计算平台下实现资源调度机制，资源可以流转到需要的地方。如在系统业务整体升高情况下，可以启动闲置资源，纳入系统中，提高整个云平台的承载能力。而在整个系统业务负载低的情况下，则可以将业务集中起来，而将其他闲置的资源转入节能模式，从而在提高部分资源利用率的情况下，达到其他资源绿色、低碳的应用效果。 3、支持异构多业务体系 在云计算平台上，可以同时运行多个不同类型的业务。异构，表示该业务不是同一的，不是已有的或事先定义好的，而应该是用户可以自己创建并定义的服务。这也是云计算与网格计算的一个重要差异。 4、支持海量信息处理 云计算，在底层，需要面对各类众多的基础软硬件资源;在上层，需要能够同时支持各类众多的异构的业务;
而具体到某一业务，往往也需要面对大量的用户。由此，云计算必然需要面对海量信息交互，需要有高效、稳定的海量数据通信/存储系统作支撑。 5、按需分配，按量计费 按需分配，是云计算平台支持资源动态流转的外部特征表现。云计算平台通过虚拟分拆技术，可以实现计算资源的同构化和可度量化，可以提供小到一台计算机，多到千台计算机的计算能力。按量计费起源于效用计算，在云计算平台实现按需分配后，按量计费也成为云计算平台向外提供服务时的有效收费形式。 四、云计算按运营模式分类 1、公有云 公有云通常指第三方提供商为用户提供的能够使用的云，公有云一般可通过Internet使用，可能是免费或成本低廉的。 烦。B 2 3 五、 六、 1、传统的IT部署架构是“烟囱式”的，或者叫做“专机专用”系统。 图2传统IT基础架构 这种部署模式主要存在的问题有以下两点： 硬件高配低用。考虑到应用系统未来3～5年的业务发展，以及业务突发的需求，为满足应用系统的性能、容量承载需求，往往在选择计算、存储和网络等硬件设备的配置时会留有一定比例的余量。但硬件资源上线后，应用系统在一定时间内的负载并不会太高，使得较高配置的硬件设备利用率不高。 整合困难。用户在实际使用中也注意到了资源利用率不高的情形，当需要上线新的应用系统时，会优先考虑部署在既有的基础架构上。但因为不同的应用系统所需的运行环境、对资源的抢占会有很大的差异，更重要的是考虑到可靠性、稳定性、运维管理问题，将新、旧应用系统整合在一套基础架构上的难度非常大，更多的用户往往选择新增与应用系统配套的计算、存储和网络等硬件设备。
* 1: 100. 云计算 （一）大数据(BigData) 1. 定义：海量数据或巨量数据，其规模巨大到无法用当前主流的计算机系统在合理时间内获取、存储、管理、处理并提取以帮助使用者决策。 2. 特点：1）数据量大（Volume）----- PB 级以上 2）快速（Velocity）----- 数据增长快 3）多样（Variety）----- 数据来源及格式多样 4）价值密度低（Value ）----- 从大量、多样数据中提取价值的体系结构 5）复杂度（Complexity）-----对数据处理和分析的难度大 3.大数据与云计算的关系： 从技术上看，大数据与云计算的关系就像一枚硬币的正反面一样密不可分。大数据必然无法用单台的计算机进行处理，必须采用分布式计算架构。 它的特色在于对海量数据的挖掘，但它必须依托云计算的分布式处理、分布式数据库、云存储和虚拟化技术。 （二）云计算(Cloud Computing) 1.定义：1）云计算是一种商业计算模型。它将计算任务分布在大量计算机构成的资源池上，使各种应用系统能够根据需要获取计算力、存储空间和信息服务。 //分布式计算 2）云计算是通过网络按需提供可动态伸缩的廉价计算服务。 2. 特点：1）超大规模 2）虚拟化 3）高可靠性 4）通用性 5）高可伸缩性 6）按需服务 7）极其廉价 3. 服务类型分类： 1）SaaS （软件即服务:：Software as a Service) //针对性更强，它将某些特定应用软件功能封装成服务如：Salesforce online CRM
2）PaaS （平台即服务：Platform as a Service）//对资源的抽象层次更进一步，提供用户应用程序运行环境如：Google App Engine ,Microsoft Windows Azure 3）IaaS （基础设施作为服务：Infrastructure as a Service）//将硬件设备等基础资源封装成服务供用户使用，如：Amazon EC2/S3 4. 云计算的实现机制（体系结构） 1）SOA （面向服务的体系结构）：它将应用程序的不同功能单元（称为服务）通过这些服务之间定义良好的接口和契约联系起来。使得其服务能以一种统一的、通用的方式进行交互。 SOA可以看作是B/S模型、XML/Web Service技术之后的自然延伸。 2）管理中间件：（关键部分） 3）资源池层：将大量相同类型的资源构成同构或接近同构的资源池。 4）物理资源层：计算机、存储器、网络设施、数据库和软件等 5. 云计算与网格计算 1）网格是基于SOA、使用互操作、按需集成等技术，将分散在不同地理位置的资源虚拟化为一个整体。 2）关系类似于TCP/IP 协议之于OSI 模型 6. 云计算与物联网 1）物联网有全面感知，可靠传递、智能处理三个特征。云计算提供对智能处理所需要的海量信息的分析和处理支持。 2）云计算架构与互联网之上，而物联网依赖于互联网来提供有效延伸。因而，云计算模式是物理网的后端支撑关键。 * 1.1: 1. Google 云计算原理 （一）文件系统GFS 1）系统架构 2）实现机制:
【最新资料,Word版，可自由编辑！】 大数据与云计算和物联网的关系 大数据时代的到来，是全球知名咨询公司麦肯锡最早提出的，麦肯锡称：“数据，已经渗透到当今每一个行业和业务职能领域，成为重要的生产因素。人们对于海量数据的挖掘和运用，预示着新一波生产率增长和消费者盈余浪潮的到来。” 《互联网进化论》一书中提出“互联网的未来功能和结构将于人类大脑高度相似，也将具备互联网虚拟感觉，虚拟运动，虚拟中枢，虚拟记忆神经系统”，并绘制了一幅互联网虚拟大脑结构图。 根据这一观点，我们尝试分析目前互联网最流行的四个概念————-大数据，云计算，物联网和移动互联网与传统互联网之间的关系。 从这幅图中我们可以看出： 物联网对应了互联网的感觉和运动神经系统。 云计算是互联网的核心硬件层和核心软件层的集合，也是互联网中枢神经系统萌芽。 大数据代表了互联网的信息层(数据海洋)，是互联网智慧和意识产生的基础。
包括物联网，传统互联网，移动互联网在源源不断的向互联网大数据层汇聚数据和接受数据。 大数据时代的到来，是全球知名咨询公司麦肯锡最早提出的，麦肯锡称：“数据，已经渗透到当今每一个行业和业务职能领域，成为重要的生产因素。人们对于海量数据的挖掘和运用，预示着新一波生产率增长和消费者盈余浪潮的到来。”近几年大数据一词的持续升温也带来了大数据泡沫的疑虑，大数据的前景与目前云计算、物联网、移动互联网等是分不开的，下面就来了解一下大数据与这些热点的关系。 大数据市场格局 从严格意义上来说，早在20世纪90年代“数据仓库之父”的BillInmon便提出了“大数据”的概念。大数据之所以在最近走红，主要归结于互联网、移动设备、物联网和云计算等快速崛起，全球数据量大大提升。可以说，移动互联网、物联网以及云计算等热点崛起在很大程度上是大数据产生的原因。 我们可以通过这样一张图片，形象的知道大数据与移动互联网、物联网以及传统互联网的关系。物联网，移动互联网再加上传统互联网，每天都在产生海量数据，而大数据又通过云计算的形式，将这些数据筛选处理分析，提前出有用的信息，这就是大数据分析。 大数据与移动互联网、物联网以及传统互联网
管理科学前沿——云计算 1.云计算概念和分类 1.1云计算概念 云计算的概念仍未得到一致认可。一种说法是：云计算(Cloud Computing)是分布式处理(Distributed Computing)、并行处理(Parallel Computing)和网格计算(Grid Computing)的发展，或者说是这些计算机科学概念的商业实现。 云计算的基本原理是，通过使计算分布在大量的分布式计算机上，而非本地计算机或远程服务器中，企业数据中心的运行将更与互联网相似。这使得企业能够将资源切换到需要的应用上，根据需求访问计算机和存储系统。 通俗的理解是，“云”是存储于互联网服务器集群上的资源，它包括硬件资源（服务器、存储器、CPU等）和软件资源（应用软件、集成开发环境等），本地计算机只需要通过互联网发送一个需求信息，远端就会有成千上万的计算机为用户提供需要的资源并将结果返回到本地计算机；即，通过使计算分布在大量的分布式计算机上，而非本地计算机或远程服务器中，用户（企业或个人）数据的运行将更与互联网相似。这使得用户能够将资源切换到需要的应用上，根据需求访问计算机和存储系统。这样，本地计算机几乎不需要做什么，所有的处理由云计算提供商提供的集群来完成。在云计算环境下，由于用户直接面对的不再是复杂的硬件和软件，而是最终的服务，因此使用观念会发生彻底变化：从“购买产品”转变到“购买服务”。用户不需要拥有看得见、摸得着的硬件设施，也不需要为机房支付设备供电、空调制冷、专人维护等费用，并且不需要等待漫长的供货周期、项目实施等冗长的时间，只需支付相应费用，即可得到所需服务。 1.2云计算分类 (一)云计算可以按照多种维护方式分类。 常见的分类维度包括：按照运营和使用者来分类计算服务的运营和使用对象的不同，云计算可以分为公有云、私有云和混合云。 公有云是指企业使用其他单位运营的云计算服务；私有云是企业自己运营并
(说明：此文为WORD文档，下载后可直接使用)
摘要：近年来，大数据和云计算已经成为社会各界关注的热点话题。秉承“按需服务”理念的“云计算（Cloudcomputing）”正高速发展，“数据即资源”的“大数据（bigdata）”时代已经来临[1]。大数据利用对数据处理的实时性、有效性提出了更高要求，需要根据大数据特点对传统的常规数据处理技术进行技术变革，形成适用于大数据收集、存储、管理、处理、分析、共享和可视化的技术。如何更好地管理和利用大数据已经成为普遍关注的话题。大数据的规模效应给数据存储、管理以及数据分析带来了极大的挑战，数据管理方式上的变革正在酝酿和发生。本文所提到的大数据包含着云计算，因为云计算是支撑大数据的平台。 关键词:大数据云计算数据分析数据挖掘
引言 在学术界，大数据这一概念的提出相对较早。2008年9月，《自然》杂志就推出了名为“大数据”(bigdata)的专刊。2011年5月，麦肯锡全球研究院发布了名为《大数据:创新、竞争和生产力的下一个前沿》(Bigdata:Thenextfrontierforinnovation，competition，andproductivity)的研究报告，指出大数据将成为企业的核心资产，对海量数据的有效利用将成为企业在竞争中取胜的最有力武器。2012年，联合国发布大数据政务白皮书，指出大数据可以使用极为丰富的数据资源来对社会经济进行前所未有的实时分析，帮助政府更好地响应社会和经济运行。2012年3月29日，奥巴马政府发布了《大数据研究与发展计划倡议》，宣布启动对大数据的研发计划，标志着美国把大数据提高到国家战略层面，将“大数据研究”上升为国家意志，对未来的科技与经济发展必将带来深远影响。 大数据应用正在风靡全球，大数据精准营销成为企业掌舵者的口头禅，那么大数据真的是无懈可击吗？答案显然是否定的。随着互联网和移动设备的普及，大数据已经在我们的生活中无处不在，而有关大数据与隐私的问题也日益受到关注。毫无疑问，未来可以获得的个人数据量越多，其中的信息量就越大。只要拥有了足够多的数据，我们甚至可能发现有关于一个人的未来信息。另外市场是变化无常并且不可预期的，决策者的创造性思维并不能通过数据得以体现，相反，大数据在压制创新。大数据搜集到的数据的真实性也有待检验。一个人获得的数据和事实越多，预测就越有意义，人的判断也就显得愈发
一、选择题30‘ 云计算 Software as a Service Platform-as-a-Service Platform-as-a-Service 云计算的特点:○1通用○2高扩展○3按需服务○4极其廉价 云计算的三大核心技术 GFS中的每一个文件被划分成多个Chunk，Chunk的默认大小是64MB，每个Chunk 又划分为若干Block（64KB），每个Block对应一个32bit的校验码，保证数据正确（若某个Block错误，则转移至其他Chunk副本） 二、名词解释15’ 1.企业信息化：企业信息化是指企业利用现代信息技术，通过对信息资源的深化开发和广泛利用，不断提高企业生产、经营、管理、决策的效率和水平，进而提高企业经济效益和企业市场竞争力的过程。
2.云计算:是一种商业计算模型。它将计算任务分布在大量计算机构成的资源池上，使各种应用系统能够按需获取计算力、存储空间和信息服务。 3.hadoop:Apache开源组织的一个分布式计算框架，可以在大量廉价的硬件 设备组成的集群上运行应用程序，为应用程序提供了一组稳定可靠的接口，旨在构建一个具有高可靠性和良好扩展性的分布式系统 4.企业信息系统 PS:管理信息系统是一个以人为主导，利用计算机硬件、软件、网络通讯设 备以及其它办公设备，进行信息收集、传输、加工、存储、更新和维护，以提高企业竞争力、提高效益和效率为目的，支持企业高层决策、中层控制、基层运作的集成化的人机系统。 4、决策支持信息系统 DSS是一种以计算机为工具，应用决策科学及有关学科的理论与方法，以人机交互方式辅助决策者解决半结构化和非结构化决策问题的信息系统。 5.客户关系管理:通过信息技术使企业在营销、销售和服务业务范围内实现以 客户为中心的管理理念的软件系统，其中涉及销售、市场营销、客户服务以及支持应用等软件 三、简答题30‘ 1.hadoop 的三大关键技术，了解GFS的构成以及作用，实现机制。 三大关键技术：mapreduce,hbase,hdfs. ○1实现机制：
、单选题（50） 1、 （A ）是中国电信依托电信级的机房设备、高质量的网络资源、系统化的监控手段、专 业的技术支撑，为客户提供标准机房环境、持续安全供电、高速网络接入、优质运行 指标的设备托管以及相关增值服务，并向客户收取相应费用的一项业务。 A 、互联网数据中心（IDC ） B 、互动电信（ITV ） C 、专线出租 D 、企业邮箱（Mail ） 2、网络监测中常用的ping 命令使用的是什么协议（B ） A 、IGMP B 、 ICMP C 、ARP D RIP 3、 使用户可就近取得所需内容，解决 In ternet 网络拥挤的状况，提高用户访问网站的响应 速度，的系统叫做（D ），它能够实时地根据网络流量和各节点的连接、负载状况以及 至悯户的距离和响应时间等综合信息将用户的请求重新导向离用户最近的服务节点上。 A 、负载均衡系统 B 、流量监控系统 C 、DPI 系统 D 、CDN 系统 4、 （C ）是一项协助确保信息安全的设备，会依照特定的规则，允许或是限制传输的数据 通 过。防火墙可以是一台专属的硬件也可以是架设在一般硬件上的一套软件。 A 、入侵检测 B 、病毒网关 C 、防火墙 D 、流量清洗 5、下面不是服务器使 用操作系统的是(B ) A 、 W indows Server 2003、Windows 2008 Server B 、 A ndorid 、Symbian 、BlackBerryOS windows mobile C 、 L INXU 、Centos 、SUSlinux D 、 U NIX 、freebsd 7、 以下常用windows 命令中，用来检测TCP/IP 网络连通性的是（D ） 8、按照网络的覆盖范围进行网络分类可以将网络分为：（ A ） A. 广域网、城域网和局域网 B.内联网、外联网和国际互联网 C. 公用网和专用网 D.公用数据网、数字数据网和综合业务数据 网 9、 IP 地址的主要类型有（D ） A 、2种 B 、3种 C 、4种 D 、5种 6、 每个子网有不多于 58台计算机，最合适的子网掩码为 A. 255.255.255.192 C.255.255.255.0 B. 255.255.255.24 8 D.255.255.255.240 A . Ipconfig B. ARP C.tracert D.pi ng
云计算和大数据的关系 -----天互数据 首先、什么是云计算？ 云计算（英语 <，是一种基于互联网的计算方式，通过这种方式，共享的软硬件资源和信息可以按需求提供给计算机和其他设备，主要是基于互联网的相关服务的增加、使用和交付模式，通常涉及通过互联网来提供动态易扩展且经常是虚拟化的资源。云是网络、互联网的一种比喻说法。过去在图中往往用云来表示电信网，后来也用来表示互联网和底层基础设施的抽象。狭义云计算指基础设施的交付和使用模式，指通过网络以按需、易扩展的方式获得所需资源；广义云计算指服务的交付和使用模式，指通过网络以按需、易扩展的方式获得所需服务。这种服务可以是IT和软件、互联网相关，也可是其他服务。它意[1]味着计算能力也可作为一种商品通过互联网进行流通。 云计算的特征 (1)资源配置动态化。根据消费者的需求动态划分或释放不同的物理和虚拟资源，当增加一个需求时，可通过增加可用的资源进行匹配，实现资源的快速弹性提供；如果用户不再使用这部分资源时，可释放这些资源。云计算为客户提供的这种能力是无限的，实现了IT资源利用的可扩展性。 (2)需求服务自助化。云计算为客户提供自助化的资源服务，用户无需同提供商交互就可自动得到自助的计算资源能力。同时云系统为客户提供一定的应用服务目录，客户可采用自助方式选择满足自身需求的服务项目和内容。 (3)以网络为中心。云计算的组件和整体构架由网络连接在一起并存在于网络中，同时通过网络向用户提供服务。而客户可借助不同的终端设备，通过标准的应用实现对网络的访问，从而使得云计算的服务无处不在。 (4)资源的池化和透明化。对云服务的提供者而言，各种底层资源（计算、储存、网络、资源逻辑等）的异构性（如果存在某种异构性）被屏蔽，边界被打破，所有的资源可以被统一管理和调度，成为所谓的“资源池”，从而为用户提供按需服务；对用户而言，这些资源是透明的，无限大的，用户无须了解内部结构，只关心自己的需求是否得到满足即可。 云计算和大数据的关系 本质上，云计算与大数据的关系是静与动的关系；云计算强调的是计算，这是动的概念；而数据则是计算的对象，是静的概念。如果结合实际的应用，前者强调的是计算能力，或者看重的存储能力；但是这样说，并不意味着两个概念就如此泾渭分明。大数据需要处理大数据的能力（数据获取、清洁、转换、统计等能力），其实就是强大的计算能力；另一方面，云计算的动也是相对而言，比如基础设施即服务中的存储设备提供的主要是数据存储能力，所以可谓是动中有静。如果数据是财富，那么大数据就是宝藏，而云计算就是挖掘和利用宝藏的利器！ 大数据技术和云计算的关系 大数据时代的超大数据体量和占相当比例的半结构化和非结构化数据的存在，已经超越了传统数据库的管理能力，大数据技术将是IT领域新一代的技术与架构，它将帮助人们存储管理好大数据并从大体量、高复杂的数据中提取价值，相关的技术、产品将不断涌现，将有可能IT行业开拓一个新的黄金时代。大数据本质也是数据，其关键的技术依然逃不脱： 1）大数据存储和管理； 2）大数据检索使用（包括数据挖掘和智能分析）。围绕大数据，一批新兴的数据挖掘、数据存储、数据处理与分析技术将不断涌现，让我们处理海量数据更加容易、更加便宜和迅速，成为企业业务经营的好助手，甚至可以改变许多行业的经营方式。． 大数据的商业模式与架构----云计算及其分布式结构是重要途径 大数据处理技术正在改变目前计算机的运行模式，正在改变着这个世界：它能处理几乎各种类型的海量数据，无论是微博、文章、电子邮件、文档、音频、视频，还是其它形态的数据；它工作的速度非常快速：
?一、云计算概念： 云计算（Cloud Computing）是由分布式计算（Distributed Computing）、并行处理（Parallel Computing）、网格计算（Grid Computing）发展来的，是一种新兴的商业计算模型。目前，对于云计算的认识在不断的发展变化，云计算没仍没有普遍一致的定义。 狭义的云计算指的是厂商通过分布式计算和虚拟化技术搭建数据中心或超级计算机，以免费或按需租用方式向技术开发者或者企业客户提供数据存储、分析以及科学计算等服务，比如亚马逊数据仓库出租生意。 广义的云计算指厂商通过建立网络服务器集群，向各种不同类型客户提供在线软件服务、硬件租借、数据存储、计算分析等不同类型的服务。广义的云计算包括了更多的厂商和服务类型，例如国内用友、金蝶等管理软件厂商推出的在线财务软件，谷歌发布的Google应用程序套装等。 通俗的理解是，云计算的“云“就是存在于互联网上的服务器集群上的资源，它包括硬件资源（服务器、存储器、CPU等）和软件资源（如应用软件、集成开发环境等），本地计算机只需要通过互联网发送一个需求信息，远端就会有成千上万的计算机为你提供需要的资源并将结果返回到本地计算机，这样，本地计算机几乎不需要做什么，所有的处理都在云计算提供商所提供的计算机群来完成。 二、云计算服务模式： 目前，云计算的主要服务模式有：SaaS(Software as a Service)软件即服务，PaaS(Platform as a Service)平台即服务，IaaS(Infrastructure as a Service)基础设施即服务。 SaaS ： SaaS是最为成熟、最出名，也是得到最广泛应用的一种云计算。大家可以将它理解为一种软件分布模式，在这种模式下，应用软件安装在厂商或者服务供应商那里，用户可以通过某个网络来使用这些软件，通常使用的网络是互联网。这种服务模式的优势是，由服务提供商维护和管理软件、提供软件运行的硬件设施，用户只需拥有能够接入互联网的终端，即可随时随地使用软件。这种模式下，客户不再像传统模式那样花费大量资金在硬件、软件、维护人员，只需要支出一定的租赁服务费用，通过互联网就可以享受到相应的硬件、软件和维护服务，这是网络应用最具效益的营运模式。对于小型企业来说，SaaS是采用先进技术的最好途径。https://www.doczj.com/doc/fc7409506.html,、NetSuite、Google的Gmail和https://www.doczj.com/doc/fc7409506.html,都是这方面非常好的例子。 PaaS ： PaaS提供了基础架构，把开发环境作为一种服务来提供。这是一种分布式平台服务，软件开发者可以在这个基础架构之上建设新的应用，或者扩展已有的应用，同时却不必购买开发、质量控制或生产服务器。Salesforce.co
第一章云计算与大数据基础 1.在信息产业的发展历程中。硬件驱动力，网络驱动力，作为两个重要的内在动力在不同的时期起着重要的作用 西摩克雷超级计算机之父 约翰麦克锡云计算之父 蒂姆伯纳斯李万维网发明人第一个网页开发者 吉姆格雷大数据之父 6．MapReduce思想来源LISP语言 7.按照资源封装层次，云计算分为 Iaas paas saas三种 8. 教材P2 1.1.2 10. 教材P8 1.2.2 11. 教材P10 1.2.3 第二章云计算与大数据相关技术 1.一致性hash算法原理： 哈希算法是一种从稀疏值到紧密值范围的映射方法，在存储和计算定位时可以被看做是一种路由算法。通过这种路与哦算法文件块能被唯一的定位到一个节点的位置。传统的hash 算法容错性和扩展性都不好，无法有效的适应面向数据系统节点的动态变化。意思就是当集群需要增加节点，传统的hash算法不容易检测到新增加的节点，此为扩展性不好，而一致性hash算法增加一个节点只会影响增加的这个节点到前一个节点之间的数据。容错性就是如果不幸一个机器C宕机了,那么机器B和C之间的数据都会被D执行，那么受影响的数据只是机器B和C之间的数据。当然，容错性和扩展性对于节点数较多的集群是比较有意义的，对于节点较少的集群似乎这两个特性并没有什么诱惑力。 一致性hash的实际目的就是解决节点频繁变化时的任务分配问题，一致性hash将整个hash值空间组织成一个虚拟圆环，我们这里假设某hash函数H值空间为0~(2^32-1),即32位无符号整形。下面简述一下一致性hash的原理： 这是一致性hash的整个值空间0~(2^32-1)